Os sistemas de IA com inteligência humana competitiva podem representar riscos profundos para a sociedade e para a humanidade, conforme demonstrado por uma extensa pesquisa^[1] e reconhecido pelos principais laboratórios de IA^[2]. Conforme declarado nos Princípios de IA da Asilomar, amplamente endossados, a IA avançada pode representar uma mudança profunda na história da vida na Terra e deve ser planejada e gerenciada com cuidado e recursos proporcionais. Infelizmente, esse nível de planejamento e gerenciamento não está ocorrendo, embora nos últimos meses os laboratórios de IA tenham se envolvido em uma corrida fora de controle para desenvolver e implantar mentes digitais cada vez mais poderosas que ninguém - nem mesmo seus criadores - consegue entender, prever ou controlar de forma confiável.

Os sistemas de IA contemporâneos estão se tornando competitivos em relação aos humanos em tarefas gerais,^[3] e devemos nos perguntar: Devemos permitir que as máquinas inundem nossos canais de informação com propaganda e falsidade? Devemos automatizar todos os trabalhos, inclusive os que são gratificantes? Devemos desenvolver mentes não humanas que possam vir a nos superar, ser mais espertas, obsoletas e nos substituir? Devemos correr o risco de perder o controle de nossa civilização? Essas decisões não devem ser delegadas a líderes tecnológicos não eleitos. Sistemas poderosos de IA devem ser desenvolvidos somente quando estivermos confiantes de que seus efeitos serão positivos e seus riscos serão gerenciáveis. Essa confiança deve ser bem justificada e aumentar com a magnitude dos possíveis efeitos de um sistema. A recente declaração da OpenAI sobre inteligência artificial geral afirma que "em algum momento, pode ser importante obter uma análise independente antes de começar a treinar sistemas futuros e, para os esforços mais avançados, concordar em limitar a taxa de crescimento da computação usada para criar novos modelos". Nós concordamos. Esse momento é agora.

Portanto, pedimos a todos os laboratórios de IA que interrompam imediatamente, por pelo menos 6 meses, o treinamento de sistemas de IA mais poderosos do que o GPT-4. Essa pausa deve ser pública e verificável, e incluir todos os principais atores. Se essa pausa não puder ser implementada rapidamente, os governos devem intervir e instituir uma moratória.

Os laboratórios de IA e os especialistas independentes devem usar essa pausa para desenvolver e implementar em conjunto um conjunto de protocolos de segurança compartilhados para o projeto e o desenvolvimento de IA avançada que sejam rigorosamente auditados e supervisionados por especialistas externos independentes. Esses protocolos devem garantir que os sistemas que aderirem a eles sejam seguros, além de qualquer dúvida razoável.^[4] Isso não significa uma pausa no desenvolvimento da IA em geral, mas apenas um passo atrás na perigosa corrida para modelos de caixa preta imprevisíveis e cada vez maiores, com recursos emergentes.

A pesquisa e o desenvolvimento de IA devem ser reorientados para tornar os sistemas poderosos e de última geração atuais mais precisos, seguros, interpretáveis, transparentes, robustos, alinhados, confiáveis e leais.

Paralelamente, os desenvolvedores de IA devem trabalhar com os formuladores de políticas para acelerar drasticamente o desenvolvimento de sistemas robustos de governança de IA. Esses sistemas devem incluir, no mínimo: autoridades reguladoras novas e capacitadas dedicadas à IA; supervisão e rastreamento de sistemas de IA altamente capazes e grandes conjuntos de capacidade computacional; sistemas de proveniência e marca d'água para ajudar a distinguir o real do sintético e rastrear vazamentos de modelos; um ecossistema robusto de auditoria e certificação; responsabilidade por danos causados pela IA; financiamento público robusto para pesquisa técnica de segurança de IA; e instituições com bons recursos para lidar com as perturbações econômicas e políticas drásticas (especialmente para a democracia) que a IA causará.

A humanidade pode desfrutar de um futuro próspero com a IA. Tendo sido bem-sucedidos na criação de sistemas avançados de IA, podemos agora desfrutar de um "verão de IA" no qual colheremos as recompensas, projetaremos esses sistemas para o claro benefício de todos e daremos à sociedade a chance de se adaptar. A sociedade fez uma pausa em outras tecnologias com efeitos potencialmente catastróficos para a sociedade.^[5] Podemos fazer o mesmo aqui. Vamos aproveitar um longo verão de IA, não nos precipitarmos despreparados para o outono.

Preparamos algumas perguntas frequentes em resposta a perguntas e discussões na mídia e em outros lugares. Você pode encontrá-las aqui.

Além dessa carta aberta, publicamos um conjunto de recomendações de políticas que podem ser encontradas aqui:

Esta carta aberta está disponível em francês, árabe e português do Brasil. Você também pode fazer o download dessa carta aberta em PDF.