MIT cria banco de dados com mais de 700 riscos potenciais de IA

[Romildo de Paula Leite]

A nova base de dados revela que a maioria dos riscos de IA é detectada após o lançamento de sistemas e sugere monitoramento contínuo pós-implantação.

Imagem: Shutterstock

O grupo FutureTech, do Instituto de Tecnologia de Massachusetts (MIT), em colaboração com pesquisadores, lançou um banco de dados público que documenta mais de 700 possíveis riscos relacionados ao uso de Inteligência Artificial (IA). A nova plataforma é a mais abrangente até o momento e foi desenvolvida para apoiar futuros estudos sobre os impactos da tecnologia.

De acordo com o Repositório de Riscos de IA, os riscos mais recorrentes envolvem problemas de segurança e robustez dos sistemas (76%), seguidos por questões de viés e discriminação (63%) e privacidade comprometida (61%). Além desses, também foram identificados riscos menos comuns e mais complexos, como a possibilidade de IA desenvolver sensações de dor ou algo semelhante à morte.

O levantamento mostrou que a maior parte dos riscos (90%) só é identificada depois que os modelos de IA se tornam acessíveis ao público. Apenas 10% são detectados antes de sua implantação. “O que nosso banco de dados está dizendo é que a gama de riscos é substancial, nem todos podem ser verificados antecipadamente”, disse Neil Thompson, diretor do MIT FutureTech e um dos criadores do banco de dados.

Os autores do banco de dados optaram por não classificar os riscos por nível de perigo, priorizando a neutralidade e a abrangência das informações. “O objetivo é fornecer uma base neutra para futuras pesquisas”, explicou Peter Slattery, pesquisador do MIT e principal autor do projeto.

No entanto, a estratégia adotada para criar o banco de dados pode limitar sua eficácia, segundo Anka Reuel, doutoranda em Ciência da Computação na Universidade de Stanford. Ela reconhece o valor da pesquisa minuciosa, mas acredita que apenas listar os riscos associados à Inteligência Artificial pode não ser suficiente daqui para frente. Para Reuel, a questão central agora é transformar o conhecimento desses riscos em medidas práticas para enfrentá-los, já que apenas conscientizar as pessoas sobre os problemas não resolve a questão.

Os criadores do banco de dados afirmam que o projeto é apenas o começo e esperam contar com o feedback da comunidade científica para aprimorá-lo continuamente.

https://itforum.com.br/noticias/mit-cria-banco-de-dados-700-riscos-ia/

Para participar de nossa Rede Têxtil e do Vestuário - CLIQUE AQUI