El hate en redes sociales es algo que por desgracia se normaliza más y más incluso por su creciente crecimiento. Por desgracias no es el único problema, pues esto se suma a los insultos, acoso e incluso discriminación que en su conjunto vuelve al mundo de internet como una selva difícil con la que lidiar. Esto se magninifca con las transmisiones en vivo donde los streamers tienen que lidiar con ello en tiempo real y ante esto, Twitch estará tratando de implementar una IA que pueda hacer que los haters se la piensen 2 veces antes de lanzar su mensaje.
🧪 We’re rolling out an experimental prompt powered by machine learning that encourages users to pause before sending chat messages that are potentially harmful.
Our goal with this experiment is to help decrease harassment and facilitate more positive interactions on Twitch 💜… pic.twitter.com/isHtV2fck4
— Twitch Support (@TwitchSupport) August 12, 2024
Así es como funciona esta IA
Empezando por hoy, si deseas mandar un comentario negativo dentro de una transmisión, te saltará un mensaje para que lo pienses antes de enviarlo. De acuerdo al post en X donde anunciaban esta actualización, en busca de crear un entorno más seguro en su plataforma. La compañía preciso que está experimentando con una herramienta de inteligencia artificial que analiza los mensajes escritos en los chats de las transmisiones en vivo. Esta nueva tecnología, que es capaz de aprender de forma automática, detecta lenguaje potencialmente negativo como lo pueden ser insultos, acoso o comentarios racistas.
Destacando que al momento en el que el sistema identifica un mensaje que infrinja las normas de comunidad señaladas por la plataforma de streaming, el usuario recibirá una alerta con mensaje preescrito que lo invita a reconsiderar el texto que ha escrito antes de enviarlo. Con esta medida, Twitch busca reducir significativamente el acoso en línea y fomentar una comunidad más positiva y respetuosa como señalaron en su publicación.
ASí es como buscan atacar este problema tan grande que afecta a miles de creadores de contenido en la plataforma. Destacando que Amazon, empresa dueña de esta página de transmisiones en vivo, probará la herramienta por un par de semanas para concoer los resultados y si esta es efectiva.
