Pesquisadores alertaram que poderosos modelos de IA podem ser usados para turbinar a desinformação online, ataques cibernéticos ou criação de armas biológicas
A União Europeia chegou um acordo na nesta sexta-feira, 8, sobre criação das primeiras regras do mundo envolvendo a pesquisa e o desenvolvimento da inteligência artificial, o que vai permitir a supervisão legal para a aplicação responsável, ética e segura da tecnologia. Negociadores do Parlamento Europeu e dos 27 países-membros do bloco superaram as diferenças em relação aos pontos polêmicos, incluindo IA generativa e seu uso na vigilância policial por reconhecimento facial, e assinaram um acordo provisório para a criação da Lei de Inteligência Artificial.
O resultado veio após uma maratona de negociações a portas fechadas na semana passada, com a sessão inicial durando 22 horas antes de um segundo turno começar na manhã de sexta-feira. As autoridades estavam sob pressão para garantir uma vitória política para a legislação emblemática. Grupos da sociedade civil, no entanto, se mostraram céticos e aguardam detalhes técnicos que precisarão ser resolvidos nas próximas semanas. Muitos avaliam que o acordo não foi longe o suficiente para proteger as pessoas dos danos que porventura podem ser causados por sistemas de IA.
A Lei de IA foi originalmente projetada para mitigar os perigos de funções específicas de IA com base em seu nível de risco, de baixo a inaceitável. Mas os legisladores pressionaram para expandi-lo para modelos de fundação, os sistemas avançados que sustentam serviços de IA de uso geral, como o ChatGPT e o chatbot Bard do Google.
Os modelos de fundação os pontos de maior discórdia entre os países da União Europeia. No entanto, os negociadores conseguiram chegar a um compromisso provisório no início das negociações, apesar da oposição liderada pela França, que pediu em vez disso a autorregulação para ajudar as empresas europeias de IA generativa que competem com grandes rivais dos EUA, incluindo a Microsoft, apoiadora da OpenAI.
As empresas que constroem modelos de fundação terão de elaborar documentação técnica, cumprir a legislação da União Europeia em matéria de direitos de autor e detalhar o conteúdo utilizado para a formação. Os modelos de fundação mais avançados que apresentam “riscos sistêmicos” enfrentarão um escrutínio extra, incluindo a avaliação e mitigação desses riscos, a comunicação de incidentes graves, a implementação de medidas de segurança cibernética e o relatório de sua eficiência energética.
Pesquisadores alertaram que poderosos modelos de fundação, construídos por um punhado de grandes empresas de tecnologia, podem ser usados para turbinar a desinformação e manipulação online, ataques cibernéticos ou criação de armas biológicas.
O tópico mais espinhoso, no entanto, era o que trata dos sistemas de vigilância de reconhecimento facial alimentados por IA, mas os negociadores encontraram um compromisso após intensas negociações. Muitos queriam a proibição total do uso público de escaneamento facial e outros sistemas de “identificação biométrica remota” por causa de preocupações com a privacidade. Mas os governos dos países-membros conseguiram negociar isenções para que as autoridades pudessem usá-las para combater crimes graves, como exploração sexual infantil ou ataques terroristas.
“O acordo político de hoje marca o início de um trabalho técnico importante e necessário sobre detalhes cruciais da Lei de IA que ainda estão faltando”, disse Daniel Friedlaender, chefe do escritório europeu da Computer and Communications Industry Association (CCIA), um grupo de lobby da indústria de tecnologia.
A União Europeia assumiu uma liderança na corrida global para elaborar grades de proteção em relação ao desenvolvimento da IA quando revelou o primeiro rascunho de seu livro de regras em 2021. O recente boom da IA generativa, no entanto, fez com que as autoridades europeias buscassem atualizar a proposta pronta para servir como um modelo para o mundo.
O Parlamento Europeu ainda precisará votar a lei no início do próximo ano, mas com o acordo feito isso é uma formalidade, disse Brando Benifei, parlamentar italiano que colidera os esforços de negociação do órgão, à Associated Press na noite de sexta-feira. “É muito bom”, disse ele por mensagem de texto após ser questionado se incluía tudo o que queria. “Obviamente, tivemos que aceitar alguns compromissos, mas no geral muito bons.”
A eventual lei só entrará em vigor em 2025 e ameaça penalidades financeiras severas por violações de até €35 milhões (o equivalente a US$ 38 milhões) ou 7% do faturamento global de uma empresa.Agora, EUA, Reino Unido, China e coalizões globais como o grupo das sete principais democracias entraram com suas próprias propostas para regular a IA, embora ainda estejam longe de alcançar a Europa. Com agências de notícias e imprensa internacional.
Fonte:
https://www.cisoadvisor.com.br/europa-chega-a-acordo-sobre-as-primeiras-regras-de-ia-do-mundo/
