TAPA DEL DÍA | A solo semanas de su presentación, el chatbot Grok, desarrollado por la red social X, se convirtió en centro de polémica debido a su reciente función denominada “modo picante”. La herramienta, que permite generar imágenes y videos a partir de instrucciones escritas, ahora incluye la posibilidad de crear contenido subido de tono, incluso con referencias a celebridades. El lanzamiento de esta función coincide con el estilo irreverente que Elon Musk, propietario de la plataforma, ha implementado en X, priorizando la libre expresión por sobre la moderación estricta de contenidos. Sin embargo, la novedad pronto generó alerta entre expertos y organizaciones de protección al consumidor en Estados Unidos. Qué implica el “modo picante” de Grok Según informes de The Verge, los primeros videos creados con la herramienta Imagine —el generador de xAI de Musk— evidenciaron la capacidad de Grok para producir clips animados que no siempre son aptos para menores. La función “modo spicy” anima a los usuarios a generar material NSFW, incluyendo deepfakes de celebridades en situaciones de desnudez. TN Tecno indicó que este comportamiento irreverente no sorprende dado el carácter del modelo y la filosofía de Musk respecto a la moderación en la plataforma: laxitud en las restricciones y un énfasis marcado en la libertad de expresión. Reclamos y solicitud de investigación La Consumer Federation of America (CFA) y otras 14 organizaciones enviaron una carta a la Comisión Federal de Comercio (FTC) y a otras autoridades, exigiendo una investigación sobre las herramientas de generación de imágenes y videos de Grok. Según los firmantes, el modelo “genera videos de desnudos a partir de imágenes, que pueden utilizarse para crear fotos que parecen de personas reales”, y alertaron sobre los riesgos para menores y posibles consecuencias perjudiciales para las personas representadas. El grupo de organizaciones destacó además que la única barrera para impedir que menores accedan al “modo picante” es una simple ventana emergente solicitando indicar la edad, fácilmente eludible. En este contexto, solicitaron que se evalúe si xAI incumple leyes sobre imágenes íntimas no consensuadas. Si bien Grok no permite el uso de imágenes de usuarios para generar deepfakes, preocupa la tendencia de Musk a relajar la moderación en pos de lo que considera libertad de expresión, un factor que podría aumentar los riesgos asociados a este tipo de contenido. La situación evidencia un dilema creciente en la industria tecnológica: la innovación y la creatividad que permiten estas herramientas de inteligencia artificial frente a la protección de la privacidad y la seguridad de las personas. TAPA DEL DÍA