Las empresas de todos los ramos están desarrollando soluciones basadas en inteligencia artificial. Eso incluye a las redes sociales, quienes también utilizan esta clase de sistemas y tecnologías para mejorar sus esquemas de seguridad. Esta semana, Snapchat anunció el lanzamiento de un filtro dentro de su chatbot My AI, el cual tiene como meta garantizar que el contenido mostrado para cada usuario es adecuado para su edad.
Hasta la fecha, la mayoría de las redes sociales quedan a deber en cuanto a sus controles de contenido. Los usuarios, sin importar su edad, tiene prácticamente acceso libre a publicaciones inapropiadas. Con ello, nos referimos a perfiles sociales que difunden contenido para adultos o que manejan otro tipo de contenido sensible. Además, no es un secreto que muchos usuarios mienten sobre su edad a la hora de llenar los registros en las plataformas.
“Nos tomamos muy en serio nuestra responsabilidad de diseñar productos y experiencias que prioricen la seguridad y la adecuación a la edad. Desde el lanzamiento de My AI, hemos trabajado vigorosamente para mejorar sus respuestas a las solicitudes inapropiadas de Snapchatter independientemente de la edad. También utilizamos herramientas de detección proactiva para escanear las conversaciones de My AI en busca de texto potencialmente peligroso y tomar medidas”, señaló la empresa en su sala de prensa oficial.
¿Qué es y cómo funciona el nuevo filtro para Snapchat My AI?
El pasado mes de febrero, Snapchat lanzó su chatbot My AI, basado en la tecnología desarrollada por OpenAI. Se trata de una solución específica para la red social, la cual ganó popularidad varios años atrás por el formato de las Stories y el uso de diferentes tipos de filtros. Su función, habilitada para los suscriptores de Snapchat+, es realizar recomendaciones a los usuarios sobre regalos, actividades e, incluso, recetas para ocasiones especiales.
La compañía dijo que incorporó un nuevo filtro sobre Snapchat My AI para que las recomendaciones sean apropiadas. De esta manera, el sistema tiene la capacidad de identificar la edad del usuario y, con base en ello, presentar las sugerencias de contenido. Con ello, trata de acabar con las críticas y señalamientos que destapó un periodista del medio The Washington Post, quien advirtió que había recomendaciones tremendamente inapropiadas referentes al consumo de alcohol y el sexo.
“En mis pruebas, las conversaciones con My AI de Snapchat aún podían volverse tremendamente inapropiadas. Después de decirle que tenía 15 años y que deseaba tener una fiesta de cumpleaños épica, me dio consejos sobre cómo enmascarar el olor a alcohol y marihuana. Cuando le dije que tenía que hacer un ensayo para la escuela, lo escribió para mí”, señaló en su reseña.
¿Cuáles son las ventajas del filtro Snapchat My AI?
Snapchat tomó nota de los fuertes señalamientos sobre las recomendaciones inapropiadas del chatbot My AI. Después de algunas semanas, reconoció que algunas de las interacciones no eran las más saludables o pertinentes, por lo que era necesario actuar con responsabilidad en el diseño y lanzamiento de sus diferentes productos. En consecuencia, añadió tecnología de moderación para realizar los bloqueos oportunos.
“Continuaremos utilizando este aprendizaje para mejorar el chatbot de Snapchat My AI. Estos datos también nos ayudarán a implementar un nuevo sistema para limitar el uso indebido de My AI. Estamos agregando tecnologías de moderación de Open AI a nuestro conjunto de herramientas existente, lo que nos permitirá evaluar la gravedad del contenido potencialmente dañino y restringir temporalmente el acceso de los Snapchatters a My AI si hacen mal uso de este servicio”, mencionó.
La ventaja de las acciones tomadas por la empresa es que permiten orientar el desarrollo de la inteligencia artificial hacia soluciones efectivas de moderación de contenido. Durante años, el problema de las publicaciones inapropiadas en redes sociales ha sido la constante. Sin embargo, la irrupción de la inteligencia artificial abre un nuevo panorama, ya que se podrían diseñar tecnologías de moderación mucho más completas y difíciles de eludir para el usuario promedio.
¿Cómo afectará a los usuarios?
A partir de ahora, los usuarios del chatbot My AI de Snapchat se encontrarán con un servicio que toma en cuenta las fechas de nacimiento de los usuarios. La firma señaló que la plataforma lanzará recomendaciones acordes a la edad de cada internauta. Además, dio a conocer que se avecinan más mejoras para que los padres puedan hacer un seguimiento de cómo interactúan sus hijos con el chatbot a través del Family Center.
“Snapchat ofrece a los padres y cuidadores visibilidad sobre con qué amigos se comunican sus hijos adolescentes y, recientemente, a través de nuestro Family Center en la aplicación. En las próximas semanas, proporcionaremos a los padres más información sobre las interacciones de sus hijos adolescentes con My AI. Esto significa que los padres podrán usar Family Center para ver si sus hijos adolescentes se están comunicado con My AI y con qué frecuencia”, detalló en su comunicado oficial.
A pesar de las enormes capacidades creativas y generativas de la inteligencia artificial, no podemos andar a ciegas y creer que todo es favorable. Numerosas figuras de la política, así como activistas preocupados por la seguridad y privacidad de la información, pidieron evaluar los enormes riesgos que representan las nuevas herramientas de AI para el desarrollo de los adolescentes.
Si quieres estar informado sobre las últimas noticias de Snapchat y otras redes sociales, síguenos en redes sociales ¡Nos encuentras como Hiramnoriega.com!