Hora Brasileira

Desafios de Diversidade na IA do Google

Desafios de Diversidade na IA do Google

Google pede desculpas pelo lançamento falho de seu gerador de imagens por IA, que às vezes "compensava demais" na busca por diversidade, gerando controvérsias e discussões sobre viés e precisão.
Credito - DALL·E
Credito - DALL·E

Na sexta-feira, o Google pediu desculpas pelo lançamento problemático de seu novo gerador de imagens por inteligência artificial, reconhecendo que, em alguns casos, a ferramenta “compensava demais” ao buscar uma gama diversificada de pessoas, mesmo quando tal diversidade não fazia sentido.

Reação à Diversidade Forçada:

A explicação parcial para por que suas imagens colocavam pessoas de cor em contextos históricos onde normalmente não seriam encontradas veio um dia após o Google dizer que estava temporariamente interrompendo seu chatbot Gemini de gerar imagens com pessoas nelas. Isso foi em resposta a um clamor nas redes sociais de alguns usuários que afirmavam que a ferramenta tinha um viés anti-branco na maneira como gerava um conjunto racialmente diverso de imagens em resposta a prompts escritos.

Feedback e Desafios Técnicos:

“Está claro que esse recurso não atingiu o objetivo”, disse uma postagem no blog de sexta-feira de Prabhakar Raghavan, um vice-presidente sênior que administra o motor de busca do Google e outros negócios. “Algumas das imagens geradas são imprecisas ou mesmo ofensivas. Somos gratos pelo feedback dos usuários e lamentamos que o recurso não tenha funcionado bem.”

Desenvolvimento e Preocupações de IA:

O Google adicionou o novo recurso de geração de imagens ao seu chatbot Gemini, anteriormente conhecido como Bard, cerca de três semanas atrás. Ele foi construído sobre um experimento de pesquisa anterior do Google chamado Imagen 2. Desde então, a pressão para lançar publicamente produtos de IA generativa cresceu devido a uma corrida competitiva entre empresas de tecnologia tentando capitalizar o interesse na tecnologia emergente desencadeada pelo advento do chatbot ChatGPT da OpenAI.

Esforços de Melhoria e Testes Futuros:

Raghavan afirmou que o Google fará “testes extensivos” antes de reativar a capacidade do chatbot de mostrar pessoas novamente. Pesquisadores, como Sourojit Ghosh da Universidade de Washington, expressaram decepção, enfatizando que para uma empresa que aperfeiçoou algoritmos de pesquisa e possui “um dos maiores tesouros de dados do mundo”, gerar resultados precisos ou inofensivos deveria ser um padrão mínimo exigível.

Esta reorganização apresenta um olhar detalhado sobre o desafio enfrentado pelo Google ao implementar diversidade em suas ferramentas de IA, destacando a complexidade de criar tecnologias que respeitem a diversidade cultural e histórica sem cair em estereótipos ou imprecisões.

Leia também

Publicidade

Compartilhe

Publicidade

Bem Vindo ao HoraBrasileira

Nosso blog se destaca pela ampla variedade de conteúdos, incluindo política, economia, cultura, entre outros, com contribuições de colaboradores globais. Oferecemos nosso conteúdo em vários idiomas, essencial tanto para brasileiros no exterior quanto para estrangeiros.

Nossa missão é fornecer informações precisas, confiáveis e imparciais, com uma abordagem equilibrada, apesar de nossa orientação política progressista.

Comprometidos em manter a comunidade brasileira no exterior bem informada, garantimos acesso a notícias atualizadas e equilibradas sobre o Brasil e o mundo em diversas plataformas e idiomas.

Se você tem paixão por escrever e algo a dizer, queremos ouvir!

Pular para o conteúdo