Cofundador da Anthropic defende botão de desligamento obrigatório para IAs

Cofundador da Anthropic defende botão de desligamento obrigatório para IAs

Jack Clark, cofundador da Anthropic, defende que empresas de inteligência artificial possam ser obrigadas a manter mecanismos de desligamento completo de seus sistemas, com verificação independente. Segundo ele, a sociedade e os legisladores precisam discutir requisitos para garantir que uma IA considerada perigosa possa ser desativada. A proposta surge em meio ao debate sobre os riscos do rápido avanço da tecnologia e sobre a necessidade de estabelecer limites para sistemas cada vez mais autônomos. Nos Estados Unidos, um projeto chamado “Kill Switch Act” prevê mecanismos para desativar ferramentas problemáticas e dá a determinadas agências poder para exigir sua suspensão ou limitação. No Reino Unido, o governo rejeitou recentemente a criação de um interruptor de segurança, argumentando que isso não impediria o desenvolvimento ou o uso inadequado de IAs em outros países. O debate também divide o setor: enquanto alguns executivos e pesquisadores alertam para riscos extremos, outros consideram exageradas as previsões de que a IA possa ameaçar a humanidade. Fonte: BBC News Brasil.

Cadastre-se para receber gratuitamente nossa curadoria diária na sua caixa de e-mail

Cadastre-se para receber gratuitamente nossa curadoria diária na sua caixa de e-mail

Prefira seu e-mail pessoal ao profissional