Pesquisadores fizeram experimentos secretos em usuários do Reddit com comentários gerados por IA
Pesquisadores fazem experimento secreto com usuários do Reddit usando comentários gerados por IA
Um recente experimento realizado por pesquisadores da Universidade de Zurique chocou a comunidade do Reddit ao utilizar inteligência artificial para gerar comentários persuasivos em um dos subreddits mais populares. O objetivo do experimento era estudar como a IA poderia ser usada para influenciar opiniões e mudar visões de mundo.
Usando modelos de linguagem avançados, os pesquisadores criaram comentários que se passavam por diferentes identidades, como sobrevivente de agressão sexual, conselheiro de trauma especializado em abuso e um homem negro contra o movimento Black Lives Matter. Esses comentários gerados por IA foram postados em resposta a postagens no subreddit r/changemyview, que conta com milhões de membros e é conhecido por levar várias discussões controversas à página inicial do Reddit.
No entanto, os moderadores do subreddit destacaram que o experimento violou várias regras do grupo, o que levou a uma queixa formal à Universidade de Zurique e à solicitação para que os pesquisadores não publiquem o artigo. O Reddit também está considerando ações legais contra os pesquisadores e reforçando sua detecção de conteúdo inautêntico.
Embora os pesquisadores tenham alegado que o experimento poderia ajudar a proteger usuários de ações maliciosas da IA, a comunidade do Reddit e os moderadores discordam, ressaltando a importância do consentimento e da ética na pesquisa envolvendo seres humanos.
Esse incidente traz à tona a discussão sobre os limites éticos na pesquisa de IA e destaca a necessidade de regulamentação e transparência em tais projetos, especialmente quando envolvem comunidades online e experiências não solicitadas pelos participantes.