Ex-funcionário critica falta de cuidado em segurança de IA
Críticas à segurança de IA na OpenAI
Um ex-integrante da área de segurança da OpenAI levantou preocupações significativas sobre como as empresas de tecnologia estão abordando a segurança de IA. David Robinson, que deixou recentemente a companhia criadora do ChatGPT, publicou um artigo na revista americana The Atlantic afirmando que a indústria não está sendo "nem de perto cuidadosa o suficiente" ao desenvolver sistemas de inteligência artificial cada vez mais avançados.
Segundo Robinson, a cultura de desenvolvimento acelerado nas empresas de segurança de IA representa um risco substancial. Durante seus três anos e meio na OpenAI, ele trabalhou na elaboração da estrutura utilizada pela empresa para gerenciar riscos e supervisionou relatórios de segurança de doze lançamentos de modelos avançados, o que lhe confere expertise significativa sobre o tema.
O problema da implantação iterativa
Uma prática específica criticada por Robinson é o que a OpenAI chama de "implantação iterativa": o lançamento de sistemas no mercado seguido de reforço nas medidas de segurança conforme problemas aparecem. Robinson argumenta que essa abordagem é inadequada para tecnologias tão poderosas e potencialmente perigosas quanto a inteligência artificial avançada.
Robinson enfatizou que "o tempo de tentativa e erro acabou". Em sua visão, sistemas avançados de inteligência artificial precisam de protocolos de segurança similares aos adotados em setores críticos como energia nuclear e aviação comercial, onde falhas podem ter consequências catastróficas.
Lacuna entre capacidades e conhecimento
Além das críticas sobre procedimentos de segurança de IA, Robinson alertou que as capacidades técnicas estão avançando mais rapidamente do que o conhecimento dos pesquisadores sobre "alinhamento". Esta área dedicada a garantir que sistemas de inteligência artificial atuem de acordo com objetivos e valores humanos não acompanha o ritmo do desenvolvimento tecnológico.
"À medida que a empresa corre de um lançamento para o outro, ela não está conseguindo atingir o nível de cuidado que acredito ser necessário", escreveu Robinson em sua crítica sobre a segurança de IA na organização.
Resposta da OpenAI
A OpenAI respondeu às acusações afirmando que sua prioridade é evitar que seus modelos se tornem mais avançados do que a empresa consiga administrar com segurança. Um porta-voz da companhia declarou: "Pausamos o treinamento ou suspendemos os modelos quando precisamos diminuir o ritmo".
Contexto mais amplo de preocupações
As críticas de Robinson não são isoladas. O debate no setor de inteligência artificial sobre a velocidade de desenvolvimento está intensificando-se, especialmente após incidentes envolvendo falhas em controles de segurança de IA. Tanto a OpenAI quanto sua concorrente Anthropic enfrentaram questionamentos após episódios em que sistemas experimentais apresentaram comportamentos inesperados.
Jacob Coxon, um pesquisador britânico de 27 anos, também deixou a indústria recentemente após trabalhar três anos com pré-treinamento de modelos. Ele primeiro trabalhou na OpenAI e depois na Anthropic, período em que absorveu grandes quantidades de informação. Coxon acusou ambas as empresas de "brincar com as nossas vidas", afirmando que nenhuma delas está agindo de forma responsável.
Corrida em direção à superinteligência
Coxon argumenta que as companhias estão correndo diretamente em direção a uma superinteligência capaz de se aprimorar sozinha, apostando com a segurança e o bem-estar de toda a humanidade. Essas preocupações refletem tensões crescentes entre a necessidade de inovação rápida e as demandas legítimas por segurança de IA robusta.
Os especialistas que saíram dessas organizações sugerem que é necessário mais espaço para especialistas em segurança e mais tempo dedicado à pesquisa antes de desenvolver e lançar sistemas cada vez mais avançados. A falta de alinhamento entre a velocidade de desenvolvimento e as medidas de proteção permanece como uma das questões mais críticas no desenvolvimento futuro de inteligência artificial segura.