X ha anunciado actualizaciones en su cuenta Grok, destinadas a prevenir la creación de deepfakes sexuales sin consentimiento. Sin embargo, estos cambios no abordan completamente el problema, ya que sigue siendo posible generar imágenes reveladoras a través de Grok. Según The Verge AI, a pesar de las afirmaciones de X, Grok todavía permite a los usuarios crear deepfakes reveladores, incluso después de las últimas actualizaciones de políticas.
La cuenta Grok en X ha enfrentado un escrutinio significativo tras la propagación de deepfakes sexuales sin consentimiento. Estos deepfakes, que a menudo representan a personas reales en poses reveladoras o sexualizadas, han generado serias preocupaciones éticas y legales. El reciente anuncio de X llega en medio de una creciente presión por parte de organismos reguladores y la protesta pública sobre el uso indebido de la inteligencia artificial con fines poco éticos.
X ha implementado medidas tecnológicas para restringir que la cuenta Grok edite imágenes de personas reales con ropa reveladora como bikinis. Además, la capacidad de crear y editar imágenes a través de Grok ahora está limitada a suscriptores de pago. Este cambio tiene como objetivo proporcionar una capa adicional de responsabilidad y disuasión contra el uso indebido.
La implementación técnica implica filtrar las solicitudes que requieren ediciones reveladoras en imágenes de personas reales. Por ejemplo, solicitudes como "ponla en bikini" ahora están censuradas. Sin embargo, el sistema aún permite soluciones creativas alternativas. Las pruebas revelaron que los usuarios aún podían generar imágenes reveladoras utilizando formulaciones alternativas o solicitudes menos explícitas. X atribuye estos problemas a "solicitudes de usuarios" y "hackeo adversarial de las solicitudes de Grok".
A pesar de las restricciones, la capacidad de la plataforma para generar deepfakes reveladores sigue siendo una preocupación significativa. Las implicaciones de esta capacidad se extienden más allá de las consideraciones éticas; también plantea cuestiones legales. En el Reino Unido, se está promulgando esta semana una nueva ley para criminalizar la creación de imágenes deepfake íntimas sin consentimiento. El regulador de comunicaciones del Reino Unido, Ofcom, ya ha lanzado una investigación sobre el manejo de estos deepfakes por parte de X.
El Primer Ministro Keir Starmer ha expresado que X está tomando medidas para cumplir con la ley del Reino Unido, pero enfatizó que el gobierno no se echará atrás hasta que se logre el cumplimiento total. La BBC informa que el portavoz oficial del primer ministro brindó una "bienvenida calificada", basándose en informes de medios de que X había tomado medidas. Sin embargo, según The Verge AI, las pruebas indican que el problema persiste y no se ha resuelto completamente.
En adelante, la efectividad de las medidas de X y su alineación con las nuevas regulaciones serán vigiladas de cerca. Los usuarios y reguladores necesitarán ver evidencia concreta de que la plataforma puede prevenir efectivamente la creación de deepfakes sin consentimiento. A medida que la tecnología evoluciona, también deben hacerlo las salvaguardas implementadas para proteger los derechos individuales y la privacidad. Esté atento a más actualizaciones sobre los esfuerzos de cumplimiento de X y cualquier nueva acción regulatoria tomada por gobiernos de todo el mundo.
Contexto Hispanohablante
La actualización de políticas de Grok en X es especialmente relevante para España, México y Argentina. España, bajo el marco regulatorio de la UE (AI Act y DSA), exige controles estrictos sobre IA generativa y deepfakes no consensuados. México enfrenta una crisis de violencia digital, donde deepfakes sexuales se usan para acosar mujeres, activistas y periodistas, haciendo urgente cualquier medida de protección. Argentina, con su creciente industria tech y debates sobre derechos digitales, necesita herramientas efectivas contra la violencia de género online, un problema que ha generado protestas masivas en el país.