Twitch: a IA reduzirá a linguagem negativa

Como uma das ferramentas de moderação que o Twitch pretende implementar, adicionará uma IA.

O ódio nas redes sociais é algo que infelizmente está se tornando cada vez mais normalizado devido ao seu crescimento constante. Infelizmente, esse não é o único problema, pois se soma aos insultos, assédio e até discriminação, tornando o mundo da internet uma selva difícil de lidar. Isso se agrava com as transmissões ao vivo, onde os streamers têm que lidar com isso em tempo real e, diante disso, o Twitch está tentando implementar uma IA que possa fazer com que os haters pensem duas vezes antes de enviar sua mensagem.

É assim que esta IA funciona
A partir de ontem, se você desejar enviar um comentário negativo durante uma transmissão, receberá uma mensagem para pensar antes de enviá-lo. De acordo com o post em X onde anunciaram essa atualização, visando criar um ambiente mais seguro em sua plataforma. A empresa afirmou que está experimentando uma ferramenta de inteligência artificial que analisa as mensagens escritas nos chats das transmissões ao vivo. Essa nova tecnologia, capaz de aprender automaticamente, detecta linguagem potencialmente negativa, como insultos, assédio ou comentários racistas.

Destacando que no momento em que o sistema identifica uma mensagem que infringe as normas da comunidade estabelecidas pela plataforma de streaming, o usuário receberá um alerta com uma mensagem pré-escrita que o convida a reconsiderar o texto que ele escreveu antes de enviá-lo. Com essa medida, o Twitch busca reduzir significativamente o assédio online e promover uma comunidade mais positiva e respeitosa, como afirmaram em sua publicação.

É assim que eles buscam combater esse problema tão grande que afeta milhares de criadores de conteúdo na plataforma. Destacando que a Amazon, empresa dona desta página de transmissões ao vivo, testará a ferramenta por algumas semanas para conhecer os resultados e se ela é eficaz.

Fonte