Antes e depois da IA

Vieses algorítmicos e democratização pautam debate da regulamentação da IA. Mas, afinal, regras devem frear ou acelerar inovações?

matéria revista IA inteligência artificial

No começo de dezembro de 2022, uma ferramenta de inteligência artificial (IA) arrebatou o mundo: surgia a febre “ChatGPT”, ferramenta de IA generativa que mudou a forma como nos relacionamos com as máquinas. Mesmo que, meses antes, outra ferramenta, o Dall-E, para criar imagens, também tenha causado grande impacto, o “robô conversador” explodiu de tal forma que se tornou impossível não ter opinião sobre o tema. A IA, afinal, é um risco ou uma oportunidade?

A partir dessa pergunta, em poucos meses, governos de todos os países precisaram mergulhar no tema, recrutar especialistas e debater os limites da nova tecnologia. Tudo isso enquanto ela própria se desenvolvia em um ritmo jamais visto pela humanidade. Se a versão 3.5 do ChatGPT, de 2022, já havia chocado, a 4.0, lançada em março, deixou clara a urgência de regular o tema.

“O Brasil tenta seguir o modelo da Europa, que tem tradição de vanguarda na legislação que fala sobre ‘direitos do futuro’. Nós nos inspiramos na lei para proteção de dados da Europa e devemos nos inspirar também sobre a inteligência artificial. Deve ser criada uma autoridade competente para tratar dos assuntos e definir diretrizes do uso da IA no Brasil. A abordagem do projeto de lei é baseada em riscos, e isso também é uma inspiração na regulamentação da União Europeia, a AI Act”, diz Priscila Reis, advogada especialista no tema, e mestre em Tecnologias da Inteligência com ênfase em inteligência artificial pela PUC-SC.

Como o projeto de lei da IA nasceu?

O texto do Projeto de Lei 2.338/2023 mencionado por Priscila e apresentado nas últimas semanas foi pensado por uma comissão composta por 18 juristas, sob coordenação do ministro Ricardo Villas Boas Cuevas, do Supremo Tribunal de Justiça (STJ). O núcleo teve apoio técnico de especialistas e, além da inspiração na legislação europeia, levou em consideração também a regulamentação da Organização para a Cooperação e Desenvolvimento Econômico (OCDE) e Unesco.

Segundo o PL, o Estado pretende criar regras para utilização, tanto pelo setor público quanto pelas empresas, assim como estabelecer direitos para os afetados. E, dentre as penas, estão multas que vão de 2% do faturamento ou até R$ 50 milhões, a suspensão temporária ou mesmo definitiva dos sistemas. Legislação muito semelhante àquela que está sendo implementada na Europa.

A comissão julgadora, ainda a ser designada, determinará o grau de risco dos sistemas de inteligência artificial – que terá como fatores resolutivos critérios como tamanho, impacto sobre liberdades e democracia, danos ao patrimônio e mesmo o “viés algorítmico”, quando o sistema privilegia determinados grupos em detrimento de outros e potencializa casos de racismo, sexismo ou influencia em padrões de consumo. Exemplos disso são os recentes casos quando a IA determinou que pessoas não-brancas têm maior chance de reincidência criminal.

Viés algorítmico: um dos maiores riscos

No último dia 18 de maio, o CEO da OpenAI, criadora do ChatGPT, Sam Altman, esteve no Rio de Janeiro para um evento no Museu do Amanhã. O mediador do encontro, Denis Mizne, CEO da Fundação Lemann, contou que recorreu ao ChatGPT para perguntar quem ele deveria chamar para ajudar a entrevistar Altman no palco.

“Perguntei ao Chat GPT quem eu poderia convidar para entrevistar o Sam, e ele me indicou cinco homens. E rebati, ‘Mas só homem?’. Foi aí que ele me indicou a Nina”, contou, fazendo referência à Nina da Hora, cientista da computação e ativista, uma das vozes com as críticas – sempre construtivas – à inteligência artificial.

Presente no palco, Nina levantou pontos importantes – dois dos riscos mais subestimados do ChatGPT e demais ferramentas de inteligência artificial generativa (aquelas capazes de “gerar” conteúdo original): a falta de qualquer transparência sobre seu algoritmo e o impacto disso, o “viés algorítmico”.

Sobre o primeiro ponto, Nina da Hora fez questionamentos ao CEO sobre os motivos pelos quais seus produtos estão distantes do movimento open science, que tem como objetivo democratizar dados sobre pesquisas e torná-los acessíveis a todos. De posse desses dados, cientistas poderiam apontar possíveis falhas e sugerir correções. Altman, no entanto, foi lacônico sobre o tema e limitou-se a dizer que “a OpenAI vai se restringir de publicar algumas coisas”.

Já sobre o viés algorítmico, Nina permaneceu no tema, insistindo no ponto de que a IA, da forma como foi concebida, pode ajudar a perpetuar e a aprofundar modelos discriminatórios. A cientista deu exemplos de boas práticas, mencionando a startup brasileira Sabiá, que gerou o primeiro modelo de linguagem em português, tendo como ponto de partida a diversidade brasileira.

“Existe, por exemplo, uma masculinização da inteligência artificial. Como praticamente 80% das pessoas que estão por trás do processo de treinamento dos sistemas, tanto da curadoria quanto dos dados da calibragem, dos próprios sistemas, são homens. E por que isso? Por conta de uma questão cultural. E está tudo nos dados que alimentam os sistemas, como os preconceitos. Não importa se eles são dados corretos ou não, ele aprende com base naqueles dados e entrega resultados prováveis. O sistema não é verdadeiramente inteligente, eles são modelos probabilísticos, modelos estatísticos”, explica a advogada Priscila.

É possível regular as big techs?

“Com relação à atuação das big techs, se há um limite para atuação delas, bom, não só em relação a tecnologia, mas a outras grandes organizações, os grandes grupos concentram muito dinheiro. E dão as regras da economia. Então, não estão criando regulamentações, que, na teoria, é papel dos governos, mas na prática eles conduzem a economia. E sabemos que boa parte delas vive com informações obtidas de nossos dados. Assim como a história da humanidade é contada em antes e depois de Cristo, estamos num momento de ‘antes da IA e depois da IA’”, diz Renato Grau, futurista, empresário e embaixador do Movimento Brasil Digital para Todos.

A provocação de Grau faz sentido. Em depoimento ao Congresso norte-americano, Altman reforçou seu ponto de que é papel dos governos legislar, mas as empresas devem criar padrões próprios, sob pena de ver seus negócios influenciados por políticos – cujos interesses podem estar mais alinhados com sua base eleitoral do que com a sociedade.

“Com esses projetos de lei que estão para ser aprovados não parece que temos algo isento. Isto é muito preocupante. A regulamentação é sempre bem-vinda, desde que seja um parâmetro justo para a sociedade. O que está acontecendo é que, aparentemente, essa regulamentação existe para beneficiar poucos. E dentro da questão de desenvolvimento das dos projetos de lei de normas e regulamentações é fundamental haver sim pessoas técnicas. De maneira alguma isto pode ser definido num ambiente político”, alerta o futurista.

Assim, como impor regras para empresas transnacionais, com centenas de milhares de empregados, cujo valor pode ultrapassar a inimaginável cifra de US$ 1 trilhão e com faturamento que é maior do que o produto interno bruto (PIB) nominal da maioria dos países onde atuam?

A resposta, novamente, parece vir da Europa. A General Data Protection Regulation (GDPR), ou regulação de proteção de dados gerais, que inspirou a nossa Lei Geral de Proteção de Dados Pessoais (LGPD), já autuou o Google em € 50 milhões e a British Airways, em £ 183 milhões, para citar alguns casos. Uber, Facebook, Yahoo e outras gigantes digitais também precisaram sentir no bolso para mudar suas práticas.

“O Brasil não está atrasado em termos de regulação, certo? A gente está no caminho do mundo. O problema não é o passo que essa lei vai ser aprovada, mas sim a conscientização em relação à tecnologia. Então, assim não adianta você só ter uma lei, mas também ela tem que fomentar a discussão sobre inovação e a educação sobre essa tecnologia. A lei vem antes de um processo de educação da própria população, que vai estar sujeita a essa lei. Com o ChatGPT surgiu essa fome de usar inteligência artificial generativa, melhorar a produtividade. Só que as pessoas estão usando e não sabem nem o que é”, finaliza Priscila.

Big techs ficam em silêncio sobre o tema

Procurada pela revista IT Forum, a Microsoft, maior investidora da OpenAI, criadora do ChatGPT, disse que não iria se pronunciar sobre o tema. Por e-mail, a assessoria da big tech se limitou a dizer que “a Microsoft não está comentando sobre o assunto no momento”. A reportagem também procurou falar com executivos da empresa. Apesar da receptividade dos quadros, a assessoria também informou que eles não estariam autorizados a falar.

No entanto, um dos nomes da Microsoft, que pediu anonimato, comentou que o Brasil acelerou a tramitação da legislação e “está atropelando as discussões”, fazendo referência à Lei das Fake News (PL 2630/2020), que foi inesperadamente priorizada nas últimas semanas.

Ainda segundo a fonte da Microsoft, outro ponto que causa apreensão na empresa é o fato de praticamente não ter havido discussões técnicas sobre a IA, e sobre a amplitude da PL, que pode criar uma legislação vaga, imprecisa e de difícil aplicabilidade. A fonte, porém, elogiou a forma “prática” como o Brasil lidou com o tema, se espelhando profundamente no exemplo europeu.

O Google, outra big tech que investe pesado na IA e lançou recentemente uma poderosa ferramenta, o Bard, também foi procurado pela redação. Ao contrário da Microsoft, a gigante das buscas deixa claro que reconhece a importância do diálogo com a classe política e a sociedade civil, em prol do aperfeiçoamento da tecnologia e democratização do bom uso da inteligência artificial. Confira a íntegra da nota.

“O Google apoia e reconhece a importância de debatermos a regulamentação para temas centrais como a Inteligência Artificial (IA). Os governos têm um papel importante a desempenhar na maximização dos benefícios da IA e no gerenciamento de seus riscos. Por isso, estamos dialogando com a sociedade civil, o Executivo e o Legislativo para colaborar com o aperfeiçoamento das propostas de criação de um Marco Regulatório de Inteligência Artificial no Brasil. Nosso foco é colaborar para que todos os usuários e o ecossistema de inovação possam ter acesso aos benefícios trazidos pelos avanços tecnológicos da IA, desde startups e pequenos empreendedores até iniciativas de grande porte. Estamos convencidos de que nossos produtos habilitados por AÍ são úteis, atraentes e têm o potencial de ajudar e melhorar a vida das pessoas em todos os lugares. Continuaremos trabalhando de forma pioneira e responsável para cumprir esse objetivo.

*Esta reportagem foi originalmente publicada na edição #28 da Revista IT Forum.

Fabricio Vitorino

https://itforum.com.br/noticias/antes-e-depois-da-ia/

Para participar de nossa Rede Têxtil e do Vestuário - CLIQUE AQUI

Antes e depois da IA

Como o projeto de lei da IA nasceu?

Viés algorítmico: um dos maiores riscos

É possível regular as big techs?

Big techs ficam em silêncio sobre o tema

Você precisa ser um membro de Industria Textil e do Vestuário - Textile Industry - Ano XVI para adicionar comentários!

UNITÊXTIL FORTALEZA

Eventos