O problema do alinhamento moral na inteligência artificial: uma crítica à luz de
valores humanamente relevantes
Inteligência Artificial; Alinhamento Moral; Ética Aplicada; Valores.
A expansão da inteligência artificial (IA) na sociedade contemporânea levanta questões éticas, particularmente no que concerne à maneira como essas tecnologias interagem com os indivíduos e produzem impactos que extrapolam a previsibilidade de seus programadores. Inserida no âmbito da ética aplicada, e mais especificamente na ética da inteligência artificial, esta dissertação examina o problema do alinhamento moral da IA (the moral alignment problem), que diz respeito à necessidade de garantir que softwares inteligentes, especialmente aqueles baseados em Aprendizado de Máquina (Machine Learning – ML), operem em conformidade com diretrizes explícitas que reflitam valores específicos. O objetivo geral desta pesquisa, à vista disso, consiste em sustentar que a IA deve ser estruturada de modo a estar alinhada com valores humanamente relevantes, uma vez que, embora esses programas de computador não possuam propósitos inerentes, sua capacidade de reproduzir padrões morais a partir de correlações estatísticas pode resultar em consequências imprevisíveis e potencialmente danosas. Para desenvolver tal argumentação, foi adotado uma metodologia de revisão bibliográfica interdisciplinar, combinando a análise filosófica com aspectos técnicos das ciências da computação a fim de construir uma fundamentação teórica que sustente a necessidade de incorporar critérios éticos na inteligência artificial. No primeiro capítulo, analisamos a evolução histórica e técnica da IA, destacando os paradigmas que orientaram seu desenvolvimento e os desafios que emergiram ao longo de tal processo. Já no segundo capítulo, discutimos a viabilidade do alinhamento moral, abordando tanto os obstáculos conceituais,
como a dificuldade em estabelecer valores universalizáveis, quanto os desafios técnicos envolvidos na sua implementação nos softwares inteligentes. Argumentamos, sendo assim, que a ausência de diretrizes normativas baseadas em valores humanamente relevantes pode resultar em efeitos colaterais adversos, tornando imperativo um debate filosófico aprofundado sobre a ética da inteligência artificial, especialmente diante da rápida evolução dessas tecnologias e de sua crescente influência sobre esferas fundamentais da vida social.