La plataforma X (anteriormente Twitter) implementó restricciones severas en su herramienta de inteligencia artificial, Grok, para frenar la creación de contenido visual manipulado. La decisión de la compañía surge tras una oleada de críticas y polémicas globales relacionadas con la generación de «deepfakes» sin consentimiento, los cuales afectaron la imagen pública de diversas celebridades y usuarios particulares.
A partir de esta actualización, el sistema de IA bloquea automáticamente solicitudes que involucren la manipulación de rostros de personas reales o la creación de imágenes que puedan inducir al engaño o la desinformación. El equipo técnico de X ajustó los algoritmos de seguridad para identificar y rechazar prompts que intenten vulnerar la privacidad o generar contenido sexual explícito no consentido, una problemática que había puesto a la red social bajo la lupa de reguladores internacionales.
Desde una perspectiva legal, la proliferación de estas herramientas sin control facilita la comisión de delitos como la suplantación de identidad, la extorsión y el daño a la honra. Expertos en derecho digital señalan que, si bien la tecnología avanza con rapidez, las plataformas tienen la responsabilidad civil de establecer barreras que impidan el uso malintencionado de sus servicios de inteligencia artificial.
La medida busca también proteger la integridad de los procesos electorales y prevenir la difusión de noticias falsas mediante imágenes hiperrealistas. Aunque algunos usuarios consideran que esto limita la libertad creativa de la herramienta, la empresa de Elon Musk priorizó la reducción de riesgos legales y el cumplimiento de las normativas de protección de datos que se endurecen en diversas jurisdicciones del mundo.
Con este cambio, Grok se suma a otras IAs del mercado que ya aplican filtros éticos rigurosos. No obstante, el desafío persiste en la detección de contenidos generados por herramientas externas que se distribuyen a través de la red social, lo que mantiene abierta la discusión sobre la responsabilidad de las plataformas en la moderación de contenido sintético.
Deja una respuesta