Itália se tornou o primeiro país do Ocidente a banir o ChatGPT, o popular chatbot de inteligência artificial da startup americana OpenAI.
Na semana passada, o italiano Data Protection Watchdog ordenou que a OpenAI parasse temporariamente de processar os dados dos usuários italianos em meio a uma investigação sobre uma suspeita de violação dos rígidos regulamentos de privacidade da Europa.
O regulador, também conhecido como Garante, citou uma violação de dados no OpenAI que permitia aos usuários visualizar os títulos das conversas que outros usuários estavam tendo com o chatbot.
“Parece não haver base legal que sustente a coleta massiva e o processamento de dados pessoais para ‘treinar’ os algoritmos nos quais a plataforma se baseia”, disse Garante em um comunicado na sexta-feira.
Garante também sinalizou preocupações com a falta de restrições de idade no ChatGPT e como o chatbot pode fornecer informações factualmente incorretas em suas respostas.
OpenAI, que é apoiado pela Microsoft
, corre o risco de enfrentar uma multa de 20 milhões de euros (US$ 21,8 milhões), ou 4% de sua receita anual global, se não apresentar soluções para a situação em 20 dias.
A Itália não é o único país que reconhece o ritmo acelerado da progressão da IA e suas implicações para a sociedade. Outros governos estão criando suas próprias regras para a IA, que, mencionando ou não a IA generativa, sem dúvida tocarão nisso. IA generativa refere-se a um conjunto de tecnologias de IA que geram novos conteúdos com base nas solicitações dos usuários. É mais avançado do que as iterações anteriores de IA, graças em grande parte aos novos modelos de linguagem grandes, que são treinados em grandes quantidades de dados.
Há muito tempo há apelos para que a IA enfrente a regulamentação. Mas o ritmo em que a tecnologia progrediu é tal que está sendo difícil para os governos acompanhá-la. Os computadores agora podem criar arte realista, escrever redações inteiras ou até mesmo gerar linhas de código em questão de segundos.
“Precisamos ter muito cuidado para não criar um mundo onde os humanos sejam de alguma forma subservientes a um futuro maior de máquinas”, disse Sophie Hackford, futurista e consultora de inovação tecnológica global da fabricante americana de equipamentos agrícolas John Deere, ao programa “Squawk” da CNBC. Box Europe” segunda-feira.
“A tecnologia está aqui para nos servir. está lá para tornar nosso diagnóstico de câncer mais rápido ou fazer com que os humanos não tenham que fazer trabalhos que não queremos fazer”.
“Precisamos pensar nisso com muito cuidado agora e precisamos agir sobre isso agora, do ponto de vista da regulamentação”, acrescentou.
Vários reguladores estão preocupados com os desafios que a IA representa para segurança no trabalho, privacidade de dados e igualdade. Também há preocupações sobre a IA avançada manipular o discurso político por meio da geração de informações falsas.
Muitos governos também estão começando a pensar em como lidar com sistemas de uso geral, como o ChatGPT, e alguns até consideram se juntar à Itália para proibir a tecnologia.
Grã-Bretanha
Na semana passada, o Reino Unido anunciou planos para regulamentar a IA . Em vez de estabelecer novos regulamentos, o governo pediu aos reguladores de diferentes setores que aplicassem os regulamentos existentes à IA.
As propostas do Reino Unido, que não mencionam o nome do ChatGPT, descrevem alguns princípios-chave a serem seguidos pelas empresas ao usar IA em seus produtos, incluindo segurança, transparência, justiça, responsabilidade e contestabilidade.
A Grã-Bretanha não está, neste estágio, propondo restrições ao ChatGPT ou qualquer tipo de IA. Em vez disso, quer garantir que as empresas estejam desenvolvendo e usando ferramentas de IA de forma responsável e fornecendo aos usuários informações suficientes sobre como e por que certas decisões são tomadas.
Em um discurso ao Parlamento na quarta-feira passada, a Ministra Digital, Michelle Donelan, disse que a repentina popularidade da IA generativa mostrou que os riscos e oportunidades em torno da tecnologia estão “emergindo em um ritmo extraordinário”.
Ao adotar uma abordagem não estatutária, o governo poderá “responder rapidamente aos avanços da IA e intervir mais, se necessário”, acrescentou ela.
Dan Holmes, líder de prevenção de fraudes da Feedzai, que usa IA para combater o crime financeiro, disse que a principal prioridade da abordagem do Reino Unido é abordar “como é o bom uso da IA”.
“É mais, se você estiver usando IA, esses são os princípios nos quais você deve pensar”, disse Holmes à CNBC. “E muitas vezes se resume a duas coisas, que são transparência e justiça.”
a UE
Espera-se que o resto da Europa adote uma postura muito mais restritiva em relação à IA do que suas contrapartes britânicas, que têm divergido cada vez mais das leis digitais da UE após a saída do Reino Unido do bloco.
A União Europeia, que muitas vezes está na vanguarda quando se trata de regulamentação de tecnologia, propôs uma legislação inovadora sobre IA .
Conhecido como European AI Act, as regras restringirão fortemente o uso de IA em infraestrutura crítica, educação, aplicação da lei e sistema judicial.
Ele funcionará em conjunto com o Regulamento Geral de Proteção de Dados da UE. Essas regras regulam como as empresas podem processar e armazenar dados pessoais.
Quando o ato de IA foi imaginado pela primeira vez, os funcionários não haviam levado em consideração o progresso vertiginoso dos sistemas de IA capazes de gerar arte, histórias, piadas, poemas e canções impressionantes.
De acordo com a Reuters , o projeto de regras da UE considera o ChatGPT uma forma de IA de propósito geral usada em aplicativos de alto risco. Os sistemas de IA de alto risco são definidos pela comissão como aqueles que podem afetar os direitos fundamentais ou a segurança das pessoas.
Eles enfrentariam medidas, incluindo duras avaliações de risco e um requisito para acabar com a discriminação decorrente dos algoritmos de alimentação de conjuntos de dados.
“A UE tem um grande e profundo conhecimento em IA. Eles têm acesso a alguns dos melhores talentos do mundo, e não é uma conversa nova para eles”, disse Max Heinemeyer , diretor de produtos da Darktrace, à CNBC.
“Vale a pena confiar que eles têm o melhor dos estados membros e estão totalmente cientes das potenciais vantagens competitivas que essas tecnologias podem trazer em relação aos riscos.”
Mas enquanto Bruxelas elabora leis para IA, alguns países da UE já estão analisando as ações da Itália no ChatGPT e debatendo se devem seguir o exemplo.
“Em princípio, um procedimento semelhante também é possível na Alemanha ”, disse Ulrich Kelber, Comissário Federal de Proteção de Dados da Alemanha, ao jornal Handelsblatt.
Os reguladores de privacidade franceses e irlandeses entraram em contato com seus colegas na Itália para saber mais sobre suas descobertas, informou a Reuters. A autoridade de proteção de dados da Suécia descartou uma proibição. A Itália é capaz de seguir em frente com essa ação, pois a OpenAI não possui um único escritório na UE.
A Irlanda é normalmente o regulador mais ativo quando se trata de privacidade de dados, já que a maioria dos gigantes da tecnologia dos EUA, como Meta
e Google
têm seus escritórios lá.
Os EUA ainda não propuseram nenhuma regra formal para supervisionar a tecnologia de IA.
O Instituto Nacional de Ciência e Tecnologia do país divulgou uma estrutura nacional que fornece às empresas que usam, projetam ou implantam sistemas de IA orientação sobre o gerenciamento de riscos e possíveis danos.
Mas funciona de forma voluntária, o que significa que as empresas não enfrentariam consequências por não cumprir as regras.
Até agora, não houve nenhuma palavra sobre qualquer ação tomada para limitar o ChatGPT nos EUA.
Fonte leia mais: https://www.cnbc.com/2023/04/04/italy-has-banned-chatgpt-heres-what-other-countries-are-doing.html
