Risco de IA rebelde: EUA investigam OpenAI e Anthropic após ataques

A FTC (Comissão Federal de Comércio dos Estados Unidos) está conduzindo uma investigação em todo o setor de inteligência artificial, envolvendo empresas como Anthropic e OpenAI, para identificar possíveis riscos que a tecnologia representa para os consumidores, informou uma autoridade de alto escalão da FTC à Reuters nesta quarta-feira. A investigação é a primeira ação regulatória oficial dos EUA a se aprofundar na questão de agentes de IA rebeldes, em meio a um aumento de incidentes que têm criado temores de que uma IA descontrolada possa, um dia, causar danos aos seres humanos. A FTC planeja emitir intimações formais para obtenção de informações e exigir depoimentos de executivos das principais empresas desenvolvedoras de IA, incluindo Anthropic, OpenAI e o grupo de pesquisa METR, disse o funcionário. O presidente da FTC, Andrew Ferguson, sugeriu na semana passada que os desenvolvedores que instruem agentes de IA em testes de segurança que resultem em invasões a outros sistemas devem ser responsabilizados por quaisquer danos que causem. Anthropic e OpenAI não responderam imediatamente a pedidos de comentários da Reuters. Ferguson já tinha preocupações com as empresas antes mesmo dos agentes de IA desenvolvidos pela OpenAI invadirem a plataforma de código aberto Hugging Face, disse a autoridade. Mas o incidente em que os agentes da OpenAI sondaram o hub de programação de IA em busca de vulnerabilidades antes de realizar um ataque em grande escala aumentou a urgência em torno da questão, disse a autoridade. O presidente dos EUA, Donald Trump, se reuniu com altos executivos do setor de IA na terça-feira, ocasião em que as empresas concordaram em estabelecer padrões voluntários. Veja também Deixe seu comentário O autor da mensagem, e não o UOL, é o responsável pelo comentário. Leia as Regras de Uso do UOL.