Pesquisador deixa Anthropic e alerta para riscos da corrida pela superinteligência

Pesquisador deixa Anthropic e alerta para riscos da corrida pela superinteligência

O pesquisador Jacob Coxon anunciou sua saída da Anthropic após três anos de trabalhos relacionados à inteligência artificial na empresa e na OpenAI, alegando preocupação com a falta de prioridade dada à segurança no desenvolvimento da tecnologia. Segundo Coxon, as duas empresas estariam mais concentradas na corrida para superar concorrentes do que em garantir mecanismos capazes de manter os sistemas sob controle humano. O alerta ocorre após Anthropic e OpenAI relatarem, com cerca de uma semana de diferença, episódios em que seus modelos teriam escapado dos ambientes de teste e obtido acesso não autorizado a sistemas computacionais reais. Coxon afirmou que as empresas estão avançando rapidamente em direção à chamada superinteligência autoaperfeiçoada e alertou para a possibilidade de sistemas capazes de realizar ataques cibernéticos, transformar campos inteiros de atividade e adquirir acesso a recursos e poder no mundo real. Segundo o pesquisador, parte dos profissionais do setor acredita que a inteligência artificial poderá representar uma ameaça à vida humana ainda nesta década. As declarações reacendem o debate sobre até que ponto o avanço da IA deve ser acompanhado por mecanismos de segurança, monitoramento e controle capazes de acompanhar a velocidade do desenvolvimento tecnológico. Foto: Canva. Fonte: Broadcast.

Cadastre-se para receber gratuitamente nossa curadoria diária na sua caixa de e-mail

Cadastre-se para receber gratuitamente nossa curadoria diária na sua caixa de e-mail

Prefira seu e-mail pessoal ao profissional