Segundo ele, as Nações Unidas admitem que é preciso responsabilizar alguém ou uma empresa caso essas tecnologias falhem no futuro e por isso a entidade planeja consolidar um Painel Científico Internacional sobre IA.

Guterres explicou que sua mensagem é simples e além de menos medo, o ideal é que tenhamos cada vez mais fatos e evidências sobre o assunto.

A Assembleia Geral da ONU confirmou 40 membros propostos para esse grupo de trabalho sobre IAs, que deve funcionar de maneira similar ao IPCC (Painel Intergovernamental sobre Mudanças Climáticas).

As falas foram realizadas na Cúpula de Impacto da IA, realizada na cidade de Nova Delhi, na Índia.

O painel sobre IAs já havia sido inaugurado em agosto do ano passado, mas só agora parece ganhar corpo e deve ter o primeiro relatório publicado em julho.

Dentre os nomes propostos está Maria Ressa, que é jornalista ganhadora do Prêmio Nobel da Paz, e Yoshua Bengio, pioneiro de inteligência artificial.

O secretário-geral das Nações Unidas pontua que a velocidade de expansão da inteligência artificial avança na “velocidade da luz” e esse ritmo supera a capacidade humana de compreendê-la e governá-la.

“Nosso objetivo é tornar o controle humano uma realidade técnica, não apenas um slogan […] Isso exige supervisão humana significativa em todas as decisões de alto risco e exige clara responsabilização, para que a responsabilidade nunca seja terceirizada ao algoritmo”, explica Guterres.

A ideia central de Guterres e do painel da ONU é delimitar quem seria responsável por eventuais erros e desvios por parte das IAs.

O Alto Comissário das Nações Unidas para os Direitos Humanos, Volker Türk, afirma que é necessária uma estrutura para a criação de uso seguro desta estrutura.