Governo dos EUA garante compromissos das empresas de inteligência artificial para gerenciar os riscos


Desde que assumiu o cargo, o presidente Biden, a vice-presidente Harris e todo o governo agiram com urgência para gerenciar os riscos apresentados pela Inteligência Artificial (IA) e proteger os direitos e a segurança dos americanos. Como parte desse compromisso, o presidente Biden está convocando sete empresas líderes de IA na Casa Branca hoje – Amazon, Anthropic, Google, Inflection, Meta, Microsoft e OpenAI e as startups Anthropic e Inflection – para anunciar que o governo Biden-Harris garantiu compromissos voluntários dessas empresas para ajudar a avançar em direção ao desenvolvimento seguro, protegido e transparente da tecnologia de IA.

  
As empresas que estão desenvolvendo essas tecnologias emergentes têm a responsabilidade de garantir que seus produtos sejam seguros. Para aproveitar ao máximo o potencial da IA, o governo Biden-Harris está incentivando esse setor a manter os mais altos padrões para garantir que a inovação não prejudique os direitos e a segurança dos americanos. Esses compromissos, que as empresas optaram por assumir imediatamente, destacam três princípios que devem ser fundamentais para o futuro da IA ​​– segurança, proteção e confiança – e marcam um passo crítico para o desenvolvimento da IA ​​responsável. À medida que o ritmo da inovação continua acelerando, o governo Biden-Harris continuará lembrando essas empresas de suas responsabilidades e tomando medidas decisivas para manter os americanos seguros.


Sob o acordo, as empresas se comprometem a realizar testes internos e permitir testes externos de novos modelos de IA antes de serem divulgados publicamente. O teste procurará problemas, incluindo resultados tendenciosos ou discriminatórios, falhas de segurança cibernética e riscos de danos sociais mais amplos. As, ambas desenvolvedoras de notáveis ​​rivais do ChatGPT da OpenAI, também participaram do acordo.

Os riscos que as empresas foram solicitadas a observar incluem violações de privacidade e até possíveis contribuições para ameaças biológicas. As empresas também se comprometeram a relatar publicamente as limitações de seus sistemas e os riscos sociais e de segurança que eles poderiam representar.

O acordo também diz que as empresas desenvolverão sistemas de marcas d’água que facilitam a identificação de áudio e imagens geradas pela IA. A OpenAI já adiciona marcas d’água às imagens produzidas por seu gerador de imagens Dall-E , e o Google disse que está desenvolvendo tecnologia semelhante para imagens geradas por IA. Ajudar as pessoas a discernirem o que é real e o que é falso é um problema crescente, pois as campanhas políticas parecem estar se voltando para a IA generativa antes das eleições nos EUA em 2024.

Os riscos sociais potenciais que o acordo obriga as empresas a observar não incluem a pegada de carbono dos modelos de IA de treinamento , uma preocupação que agora é comumente citada em pesquisas sobre o impacto dos sistemas de IA. A criação de um sistema como o ChatGPT pode exigir milhares de processadores de computador de alta potência, funcionando por longos períodos de tempo.

Hoje, essas empresas se comprometem a garantir que os produtos sejam seguros antes de apresentá-los ao público; a Construir sistemas que colocam a segurança em primeiro lugar; a Conquistar a Confiança do Público.

Últimas Notícias

Fortalecendo a prevenção e o enfrentamento à Exploração Sexual de Crianças e Adolescentes

A Vibra, maior distribuidora de combustíveis e lubrificantes do Brasil, está comprometida com a causa social de "Enfrentamento à Exploração Sexual de Crianças e...
advertisementspot_img

Busch do Brasil expande seu portfólio com produtos da Pfeiffer Vacuum

A Busch do Brasil Ltda., uma subsidiária integral da Busch SE, anunciou expansão de seu portfólio: está assumindo a distribuição e o serviço dos produtos...

Identificação padronizada para segurança do alimento

Uma nova forma de identificar produtos no varejo, que transforma a rotina dos consumidores e os processos de automação das empresas da cadeia de...