Grok limitó la edición de imágenes tras la polémica de desnudos realizados con IA; esto dijo Elon Musk
El escándalo de los desnudos falsos realizados con Grok fuerza a Elonk Musk a restringir su IA solo para suscriptores. Descubre por qué la medida tan solo sería una "curita" entre las víctimas y ciertos gobiernos que ya empezaron a tomar medidas legales.
La plataforma X, propiedad de Elon Musk, restringió el uso de su inteligencia artificial, Grok, exclusivamente a suscriptores de pago. Esta decisión surge tras días de intensas denuncias globales por el uso de la herramienta para crear, editar y alterar imágenes generando desnudos de personas reales sin su consentimiento.
La principal novedad tras este cambio es que, al convertir Grok en una función premium, el nombre y la información de pago del usuario quedarán asociados a cada imagen alterada. Esto facilita la identificación de quienes utilicen la IA para fines ilícitos.
Lea también: Las excentricidades de Larry Ellison, el fundador de Oracle que destronó a Elon Musk como el más rico del mundo
Implicaciones para quienes usen Grok para contenido ilegal
El propio Musk se pronunció en la red social para advertir sobre las implicaciones legales: "Cualquier persona que utilice Grok para crear contenido ilegal sufrirá las mismas consecuencias que si sube contenido ilegal", sentenció el magnate.
Hasta ahora, Grok permitía a usuarios gratuitos subir fotos y editarlas bajo peticiones que la IA aceptaba sin filtros éticos, resultando en imágenes de mujeres en bikini o desnudas de forma artificial.
Al tener que ahora crear registro para poder usar la herramientas podría facilitar el rastreo de quienes den mal uso a esta IA, aunque víctimas e inclusive gobiernos no ven esta medida como una solución.
Lea también: Google refuerza la seguridad: 'Rodea para buscar' identificará mensajes de estafas con Inteligencia Artificial
La voz de las víctimas de Grok
A pesar de la restricción, esta medida podria ser insuficiente señaló, Daisy Dixon, profesora de Filosofía en la Universidad de Cardiff y víctima de estos deepfakes (imágenes creadas o alteradas con IA) generados con Grok, manifestó: "Al parecer, Grok ha desactivado su generación de imágenes. Esto significará al menos una pausa en estas ofensas, lo cual es bueno, pero me preocupa que sea una curita para un problema más profundo: un diseño de IA poco ético y una misoginia generalizada"
La académica recordó que más del 95% de los abusos sexuales con imágenes no consentidas en plataformas digitales están dirigidos contra mujeres.
"El problema de la IA es un problema humano: hay que rediseñar Grok e implementar medidas éticas", añadió la catedrática quien también insto a Musk a reconocer que lo sucedido es: otro ejemplo de violación de género.
Acciones legales contra X y Grok
La presión política contra X ha pasado de las declaraciones a las acciones legales en varios países:
Aunque el que la suscripción se convierta en obligatoria y esto cree una capa de responsabilidad legal al identificar al autor, el debate va hacia si las empresas tecnológicas deben ser obligadas a implementar bloqueos nativos que impidan la generación de desnudos, independientemente de si el usuario paga o no.
.png)
.png)
