Desde que assumiu o cargo, o presidente Biden, a vice-presidente Harris e todo o governo agiram com urgência para gerenciar os riscos apresentados pela Inteligência Artificial (IA) e proteger os direitos e a segurança dos americanos. Como parte desse compromisso, o presidente Biden está convocando sete empresas líderes de IA na Casa Branca hoje – Amazon, Anthropic, Google, Inflection, Meta, Microsoft e OpenAI e as startups Anthropic e Inflection – para anunciar que o governo Biden-Harris garantiu compromissos voluntários dessas empresas para ajudar a avançar em direção ao desenvolvimento seguro, protegido e transparente da tecnologia de IA.
As empresas que estão desenvolvendo essas tecnologias emergentes têm a responsabilidade de garantir que seus produtos sejam seguros. Para aproveitar ao máximo o potencial da IA, o governo Biden-Harris está incentivando esse setor a manter os mais altos padrões para garantir que a inovação não prejudique os direitos e a segurança dos americanos. Esses compromissos, que as empresas optaram por assumir imediatamente, destacam três princípios que devem ser fundamentais para o futuro da IA – segurança, proteção e confiança – e marcam um passo crítico para o desenvolvimento da IA responsável. À medida que o ritmo da inovação continua acelerando, o governo Biden-Harris continuará lembrando essas empresas de suas responsabilidades e tomando medidas decisivas para manter os americanos seguros.
Sob o acordo, as empresas se comprometem a realizar testes internos e permitir testes externos de novos modelos de IA antes de serem divulgados publicamente. O teste procurará problemas, incluindo resultados tendenciosos ou discriminatórios, falhas de segurança cibernética e riscos de danos sociais mais amplos. As, ambas desenvolvedoras de notáveis rivais do ChatGPT da OpenAI, também participaram do acordo.
Os riscos que as empresas foram solicitadas a observar incluem violações de privacidade e até possíveis contribuições para ameaças biológicas. As empresas também se comprometeram a relatar publicamente as limitações de seus sistemas e os riscos sociais e de segurança que eles poderiam representar.
O acordo também diz que as empresas desenvolverão sistemas de marcas d’água que facilitam a identificação de áudio e imagens geradas pela IA. A OpenAI já adiciona marcas d’água às imagens produzidas por seu gerador de imagens Dall-E , e o Google disse que está desenvolvendo tecnologia semelhante para imagens geradas por IA. Ajudar as pessoas a discernirem o que é real e o que é falso é um problema crescente, pois as campanhas políticas parecem estar se voltando para a IA generativa antes das eleições nos EUA em 2024.
Os riscos sociais potenciais que o acordo obriga as empresas a observar não incluem a pegada de carbono dos modelos de IA de treinamento , uma preocupação que agora é comumente citada em pesquisas sobre o impacto dos sistemas de IA. A criação de um sistema como o ChatGPT pode exigir milhares de processadores de computador de alta potência, funcionando por longos períodos de tempo.
Hoje, essas empresas se comprometem a garantir que os produtos sejam seguros antes de apresentá-los ao público; a Construir sistemas que colocam a segurança em primeiro lugar; a Conquistar a Confiança do Público.
