Os alertas sobre riscos da inteligência artificial generativa para a humanidade seguem em alta.

Desta vez, o aviso veio do ex-líder de segurança em IA da Anthropic, Mrinank Sharma, que se demitiu da startup comentando que o mundo está em "perigo" .

Em sua carta de despedida enviada aos colegas de trabalho, o pesquisador dá indícios de ter passado por tensões internas em discussões sobre a segurança da tecnologia na desenvolvedora do bot Claude .

Ingressando na Anthropic em 2023, Sharma disse que liderava a Equipe de Pesquisa de Salvaguardas da empresa de IA.

Desde então, lidou com uma série de questões sensíveis, incluindo o desenvolvimento de mecanismos para prevenir usos indevidos da tecnologia .

Embora tenha se mostrado satisfeito com o trabalho realizado, Sharma deu a entender que os funcionários da Anthropic enfrentam pressões constantes para "deixar de lado o que é mais importante" .

E não apenas por causa da inteligência artificial ou das armas biológicas , mas por toda uma série de crises interconectadas que se desenrolam neste exato momento", refletiu, sem dar maiores detalhes.

Pedidos de demissão relacionados a preocupações com a segurança da IA têm acontecido de maneira repetida.

A Open AI é outra empresa que passa por esse tipo de situação com uma certa frequência.

Advertências sobre os riscos dos avanços da tecnologia também estão surgindo cada vez mais.

Na última semana, o CEO da Anthropic, Dario Amodei, reforçou a importância de monitorar o desenvolvimento da IA para detectar eventuais rebeliões das máquinas .