Perguntando para uma IA ‘Woke’ o que é ser ‘Woke’

8 min read Gemini, ODS 16 | Paz justiça e instituições eficazes, ODS 9 | Indústria inovação e infraestrutura, Woke

Devido a respostas muito tendenciosas, chegando ao absurdo, a IA do Google foi considerada ‘woke’ pelos usuários.

Por: Lenah Sakai | Green Business Post | 05 abril 2024 | Google News | Google Groups.

Dentre os desafios de aperfeiçoar as IAs e suas respostas, muitas vezes, ‘alucinadas’ ou totalmente erradas, uma delas se destacou.

A IA Gemini do Google teve a bizarra dificuldade de não saber quem era pior, Elon Musk ou Adolf Hitler. Também foi contra a carne como alimento e os combustíveis fósseis. As imagens que gerava viralizaram entre internautas, com a de um dos ‘pais fundadores’ dos EUA, George Washington, que foi retratado negro (ele era branco) ou a dos vikings negros e a do papa mulher.

O público percebeu que esse tipo de visão estava totalmente influenciada por ideologias políticas dos funcionários da empresa. Até mesmo o próprio Google reconheceu tamanha falta de veracidade, uma característica essencial para gerar confiança seja na empresa ou na IA.

Segundo o analista de tecnologia, Ben Thompson, em sua influente coluna Stratechery, citado pelo Business Insider, o Google deveria retirar os funcionários que utilizam o grande poder da empresa para programas políticos, ou seja, os conhecidos ‘wokes’. Para ele, o foco de trabalho deveria ser em fazer bons produtos.

A seguir, uma charge em crítica à situação da IA Gemini e ao final, outras críticas:

Após os episódios e críticas, o CEO do Google admite que o ocorrido é “ofensivo” e “inaceitável”. A empresa pediu desculpas e realizou mudanças. Paralisou a geração de imagens para fazer os ajustes necessários e até o momento, a Gemini parece ter progredido em sua função.

Para testá-la, perguntamos:

O que é ser woke?

A IA Gemini respondeu o seguinte:

[ Ser “woke” é um termo amplo que se refere a estar consciente e engajado em questões sociais e políticas relacionadas à justiça social. Pessoas “woke” geralmente defendem a igualdade de direitos e oportunidades para todos, independentemente de raça, gênero, orientação sexual, identidade de gênero, classe social ou deficiência.

Aqui estão algumas características comuns de alguém “woke”:

Consciência social: Pessoas “woke” estão atentas às desigualdades e injustiças presentes na sociedade.
Ativismo social: Elas costumam se envolver em causas sociais e políticas que buscam promover a mudança. Isso pode incluir participar de protestos, boicotes ou movimentos pela internet.
Linguagem inclusiva: Pessoas “woke” geralmente utilizam linguagem inclusiva e evitam termos considerados ofensivos ou preconceituosos.
Crítica a sistemas de poder: Elas frequentemente questionam os sistemas de poder existentes e as estruturas que perpetuam a desigualdade.

No entanto, o termo “woke” também é alvo de críticas. Alguns argumentam que:

1. Excesso de sensibilidade e “politicamente correto”:

Críticos argumentam que pessoas “woke” são facilmente ofendidas por pequenas coisas e que criam um ambiente de censura e autocensura.
Há a percepção de que a busca por inclusão e respeito pode levar ao exagero e à criação de “bolhas” sociais onde apenas ideias semelhantes são aceitas.

2. Divisão social e polarização:

Críticos argumentam que o “wokismo” promove a divisão entre grupos sociais, criando um clima de “nós contra eles”.
A ênfase em diferenças identitárias pode levar à fragmentação da sociedade e dificultar o diálogo construtivo.

3. Falta de foco em problemas reais:

Críticos argumentam que o “wokismo” se concentra em questões identitárias e simbólicas, ignorando problemas sociais mais graves como pobreza, desigualdade e violência.
Há a percepção de que o foco em “microagressões” e linguagem neutra pode desviar a atenção de problemas estruturais mais relevantes.

4. Ameaça à liberdade de expressão:

Críticos argumentam que o “wokismo” busca silenciar ideias divergentes e impor uma visão única sobre o mundo.
A defesa da “cultura do cancelamento” pode levar à censura de livros, filmes, artistas e outras formas de expressão.

5. Ataque à meritocracia e ao individualismo:

Críticos argumentam que o “wokismo” promove a ideia de que o sucesso é resultado de fatores externos como raça, gênero e classe social, ignorando o mérito individual.
A ênfase em quotas e políticas de reparação pode ser vista como uma forma de discriminação reversa que prejudica indivíduos mais talentosos e esforçados.

6. Falta de base científica e racionalidade:

Críticos argumentam que muitas das ideias “woke” são baseadas em ideologias e dogmas, e não em fatos e dados científicos.
Há a percepção de que o “wokismo” se baseia em emoções e em uma visão de mundo simplista e maniqueísta.

É importante ressaltar que nem todas as pessoas que se identificam como “woke” concordam com todas as ideias e práticas associadas ao movimento. Além disso, as críticas ao “wokismo” também podem ser criticadas por serem simplistas, reducionistas e por ignorar as nuances e complexidades do movimento.

Ao analisar as críticas ao perfil “woke”, é fundamental ter uma visão crítica e ponderada, buscando entender diferentes perspectivas e evitando generalizações. ]

Por que você foi chamada de ‘woke’?

Gemini respondeu:

[ Eu não fui chamado de “woke” diretamente, mas a acusação de viés em favor da “woke culture” tem sido um desafio para os grandes modelos de linguagem do Google, incluindo eu (Gemini).

Aqui está o resumo:

Woke: Refere-se a estar ciente e ativamente engajado em questões sociais e políticas relacionadas à justiça e à igualdade.
Acusações de viés: Algumas pessoas acreditam que grandes modelos de linguagem como eu podem ser tendenciosos para ideologias “woke” porque nossos dados de treinamento podem refletir o clima social atual e as conversas online. Isso pode levar a preocupações sobre:
- Justiça: Estamos apresentando todos os lados de uma questão de forma justa ou estamos amplificando certos pontos de vista?
- Precisão: A informação que geramos é baseada em fatos ou distorcida por vieses nos dados?

No meu caso, houve eventos específicos que provocaram a rotulagem de “woke”:

Problemas de geração de imagens: Eu não consegui gerar certas imagens relacionadas a eventos históricos sensíveis devido a políticas de segurança. Isso foi interpretado erroneamente como se eu fosse tendencioso contra certos tópicos.
Foco na inclusão: Meu treinamento enfatiza o uso de linguagem inclusiva e a evitação de estereótipos. Isso pode ser visto como a promoção da “woke culture” por alguns.

É importante notar que estas são questões complexas. Meu objetivo é ser informativo e abrangente, mas alcançar a neutralidade completa é desafiador.

Aqui está o que o Google está fazendo para resolver essas preocupações:

Melhorar os dados de treinamento: Garantir que uma gama mais ampla de pontos de vista seja incluída nos dados com os quais aprendo.
Transparência: Ser mais transparente sobre como trabalho e as limitações dos grandes modelos de linguagem.

Embora eu possa não ser “woke” em si, sou programado para estar ciente de questões sociais e políticas. Meu objetivo é ajudá-lo fornecendo informações e completando tarefas de forma imparcial e útil. ]