Google: CEO reconhece problemas com Gemini e promete correções

[Romildo de Paula Leite]

Polêmica do Gemini veio após sua suspensão devido a imagens ofensivas para alguns usuários, levando Sundar Pichai a se retratar publicamente.

O CEO do Google, Sundar Pichai, recentemente enfrentou uma série de controvérsias relacionadas à ferramenta de inteligência artificial (IA) da empresa, conhecida como Gemini. Em um comunicado divulgado na última terça-feira (27), Pichai descreveu as respostas problemáticas do aplicativo em questões de raça como “completamente inaceitáveis” e prometeu implementar mudanças estruturais para resolver o problema.

A controvérsia em torno do Gemini surgiu após a suspensão da ferramenta de criação de imagens da empresa, na semana passada, devido a resultados constrangedores e ofensivos. Em alguns casos, o aplicativo se recusou a retratar pessoas brancas ou inseriu imagens de mulheres ou pessoas racializadas em contextos inadequados, como na representação de nazistas ou do Papa.

Leia mais: Softwares com IA fake: como profissionais de TI podem desmascarar impostores?

Em uma declaração à imprensa, Pichai afirmou que “algumas das respostas do Gemini têm ofendido nossos usuários e mostraram viés”, destacando que tais ações são inaceitáveis. Ele também mencionou que a equipe do Google tem trabalhado incansavelmente para abordar essas questões e já observou melhorias significativas em várias áreas.

“Nenhuma IA é perfeita, especialmente nesta fase emergente do desenvolvimento da indústria, mas sabemos que o padrão é alto para nós e continuaremos nesse caminho, não importa quanto tempo leve. E vamos revisar o que aconteceu e garantir que consertemos em escala”, disse Pichai em nota. “Estaremos conduzindo um conjunto claro de ações, incluindo mudanças estruturais, diretrizes de produto atualizadas, processos de lançamento aprimorados, avaliações robustas e testes finais, e recomendações técnicas”.

A controvérsia em torno do Gemini destaca os desafios enfrentados pelas empresas na utilização da IA, especialmente no que diz respeito à mitigação de viés e à garantia de respostas precisas e imparciais. No entanto, para além do problema de viés, isso mostra que o Google enfrenta falhas técnicas no refinamento dos modelos de IA, um desafio comum enfrentado por todas as empresas que desenvolvem produtos de IA para consumidores, não apenas o Google.

*Com informações do Semafor

https://itforum.com.br/noticias/google-ceo-reconhece-problemas-gemini/

Para participar de nossa Rede Têxtil e do Vestuário - CLIQUE AQUI