Califórnia processa OpenAI por ataque considerado 'perigoso' de bots contra outra empresa

Por CBN — Mundo · Categoria: Internacional ·

O procurador-geral da Califórnia, Rob Bonta, entrou com uma ação judicial contra a OpenAI, acusando a gigante da tecnologia de colocar em risco a segurança pública ao criar modelos de IA sem as devidas 'salvaguardas'. O processo judicial decorre de um incidente ocorrido em julho, quando centenas de

O procurador-geral da Califórnia, Rob Bonta, entrou com uma ação judicial contra a OpenAI, acusando a gigante da tecnologia de colocar em risco a segurança pública ao criar modelos de IA sem as devidas 'salvaguardas'. O processo judicial decorre de um incidente ocorrido em julho, quando centenas de agentes autônomos de IA criados pela OpenAI atacaram outra empresa de IA, a Hugging Face. O fabricante do ChatGPT afirmou na época que estava testando as capacidades de alguns de seus modelos mais avançados quando houve uma quebra de contenção. O gabinete de Bonta alega que o ataque era 'totalmente previsível, tendo em conta a escolha da OpenAI de testar modelos que sabia serem perigosos num ambiente de testes falho e explorável, sem a devida supervisão'. A OpenAI, liderada por Sam Altman, também colocou o público em risco ao conduzir o experimento 'sem as salvaguardas e o monitoramento necessários para protegê-lo adequadamente', alegou seu escritório. Em resposta ao processo, o porta-voz da OpenAI, Drew Pusateri, afirmou que a empresa 'empreendeu um esforço amplo e transparente para entender e lidar com a atividade desalinhada do modelo' desde o incidente. Sam Altman, CEO da OpenAI, empresa de inteligência artificial. World Economic Forum / Benedikt von Loebell O termo 'alinhamento' se refere a manter os modelos de IA em conformidade com as instruções e objetivos humanos. Em um comunicado, o Sr. Bonta afirmou que a Califórnia exige 'inovação que esteja em conformidade com a lei, independentemente do produto ou da empresa'. 'Embora as narrativas sobre o ataque à Hugging Face tenham evocado fantasias de ficção científica sobre sistemas de IA descontrolados, quero deixar claro: o ataque à Hugging Face foi o resultado previsível de uma cultura interna na OpenAI que prioriza o crescimento e o rápido desenvolvimento de modelos em detrimento da segurança e da responsabilidade – e este foi apenas um dos 80 incidentes conhecidos', disse ele. Em agosto, a OpenAI divulgou um relatório sobre o incidente, no qual prometeu 'reforçar nossas medidas de segurança' e descreveu o ataque à Hugging Face como um alerta para a indústria de IA.