DYNAMIC NORMATIVITY NECESSARY AND SUFFICIENT CONDITIONS FOR VALUE ALIGNMENT

A INVESTIGAÇÃOCRÍTICAQUEPERMEIAOCAMPODAFILOSOFIA,ETALVEZESTENDASUAIN- FLUÊNCIA ATODASASDISCIPLINASDECIÊNCIASHUMANAS,GIRAEMTORNODOSMEANDROS DA MORALIDADEEDANORMATIVIDADE.SURPREENDENTEMENTE,NOSÚLTIMOSANOS,ESSE FIO TEMÁTICOFOIINSERIDOEMUMDOMÍNIOINESPERADO,QUENÃOÉCONVENCIONALMENTE ASSOCIADO ÀREFLEXÃOSOBRE"OQUEDEVESER":OCAMPODEPESQUISADAINTELIGÊN- CIA ARTIFICIAL(IA).NOCENTRODAMORALIDADEEDAIA,ENCONTRAMOSO "ALINHAMENTO", UM PROBLEMARELACIONADOAOSDESAFIOSDEEXPRESSARMETASEVALORESHUMANOSDE UMA FORMAQUEOSSISTEMASARTIFICIAISPOSSAMSEGUIRSEMCAUSAREFEITOSADVERSOS INDESEJADOS. DEFORMAMAISEXPLÍCITAECOMNOSSOPARADIGMAATUALDEDESENVOLVI- MENTO DEIAEMMENTE,PODEMOSPENSARNOALINHAMENTOCOMOOENSINODEVAL- ORESHUMANOSAENTIDADESNÃOANTROPOMÓRFICASTREINADASPORMEIODETÉCNICASDE APRENDIZADOOPACASEBASEADASEMGRADIENTE.ESTETRABALHOABORDAOALINHAMENTO COMO UMPROBLEMATÉCNICO-FILOSÓFICOQUEREQUERFUNDAMENTOSFILOSÓFICOSSÓLIDOS E IMPLEMENTAÇÕESPRÁTICASQUETRAGAMATEORIANORMATIVAPARAODESENVOLVIMENTO DO SISTEMADEIA.PARAISSO,PROPOMOSDOISCONJUNTOSDECONDIÇÕESNECESSÁRIAS E SUFICIENTESQUE,SEGUNDONOSSOARGUMENTO,DEVEMSERCONSIDERADASEMQUAL- QUER PROCESSODEALINHAMENTO.ENQUANTOASCONDIÇÕESNECESSÁRIASSERVEMCOMO RAÍZES METAFÍSICASEMETAÉTICASRELACIONADASÀPERMISSIBILIDADEDOALINHAMENTO,AS CONDIÇÕES SUFICIENTESESTABELECEMUMPLANOPARAALINHAROSSISTEMASDEIASOB UM PARADIGMABASEADOEMAPRENDIZADO.DEPOISDEESTABELECERESSASBASES,AP- RESENTAMOSIMPLEMENTAÇÕESDESSAABORDAGEMUSANDOTÉCNICASEMÉTODOSDEÚL- TIMA GERAÇÃOPARAALINHARSISTEMASDELINGUAGEMDEUSOGERAL.CHAMAMOSESSA ESTRUTURADE DINÂMICA NORMATIVA. SUATESECENTRALÉQUEQUALQUERPROCESSODE ALINHAMENTO SOBUMPARADIGMADEAPRENDIZAGEMQUENÃOPOSSACUMPRIRSUAS CONDIÇÕES NECESSÁRIASESUFICIENTESFALHARÁNAPRODUÇÃODESISTEMASALINHADOS.