X (Twitter) se ha llenado de fotos sexualizadas con la IA. Tanto que EEUU ha pedido a Apple y Google prohibir X y Grok

Da igual si es hombre o mujer, mayor o menor de edad. Las peticiones a Grok para desnudar personas reales o, al menos, pedirles que les pongan con ropa sugerente, han inundado la red social de Elon Musk. Una situación que ha escalado hasta el punto de provocar una intervención del Senado de Estados Unidos, que pide a Apple y Google la retirada de las apps de sus respectivas tiendas.

@Grok... Con esta mención es posible invocar a la IA de X (Twitter) para solicitarle prácticamente cualquier cosa. Desde acreditar la información que se aporta en una primera publicación hasta solicitar que se generen imágenes. Y en ese segundo punto está el problema.

La red social se ha llenado en estas últimas semanas de peticiones a la IA para que las personas que aparezcan en una fotografía se vean con ropa interior o bañadores, resultando en imágenes sexualizadas. Y más allá de implicar a personas reales mayores de edad, lo cual ya es poco ético de por sí, se llegan a realizar solicitudes incluso con menores de edad.

Generación de imágenes limitadas. En los últimos días, se ha podido observar como al invocar a Grok en X, este responde diciendo que solo puede generar imágenes a usuarios verificados (los que pagan), independientemente del fin que tenga el usuario con la petición. Sin embargo, sí las genera en la parte privada de Grok en X, así como en su app independiente, aunque sea en menor cantidad diaria que los usuarios de pago.

De hecho, se ha podido comprobar que en esa parte privada de Grok se sigue permitiendo la generación de imágenes de personas reales con poca ropa, tal y como se denunciaba que originalmente ocurría en la parte pública de la IA.

Que se limite a usuarios de pago no implica que otros puedan solicitar imágenes por privado o que los verificados continúen pidiendo imágenes sexualizadas

Estados Unidos va a por Grok. En una carta remitida a Tim Cook y Sundar Pichai como CEOs de Apple y Alphabet (Google) respectivamente, tres senadores estadounidenses han solicitado formalmente que se retiren las aplicaciones, tanto de la App Store de iOS como la Google Play Store de Android.

Los senadores explican que tanto X como Grok están "facilitando la creación y difusión de imágenes sexualizadas no consentidas de personas reales", algo que estaría vulnerando las leyes federales estadounidenses y las propias normas de la App Store y Google Play sobre contenido sexual y abuso infantil.

23 de enero. Es la fecha límite que los senadores han interpuesto en su solicitud a Apple y Google. Debe ser antes de este día cuando ambas compañías emitan una respuesta por escrito sobre el tema, bien sea aclarando sus posturas, aceptando o denegando la petición de eliminar estas apps. El proceso en sí, podría alargarse varias semanas más en función de esa respuesta.

No son los primeros. Antes de Estados Unidos, Francia e India ya presentaron sus respectivas quejas. En el caso del país galo, se adhieren a la DMA, la normativa de servicios digitales comunes a toda la UE y que, entre otras cosas, regula la difusión de contenido ilegal. Es precisamente esto lo que podría provocar que la Comisión Europea acabe solicitando también formalmente la eliminación de las apps en todos los países europeos.

En Applesfera

Llevamos años imaginando cómo será la nueva Siri. Si el calendario se cumple, falta poco más de un mes para empezar a probarla

Posturas, pendientes de definir. Por ahora, ni Apple ni Google se han pronunciado al respecto de este asunto. En Applesfera hemos contactado con Apple para conocer su postura al respecto, aunque por ahora no hemos obtenido respuesta.

Lo que sí parece claro es que este asunto deberá zanjarse de raíz, bien sea con X Corp. (propietaria de X y Grok) limitando realmente estas peticiones o con Apple y Google cumpliendo la petición de eliminar las apps. En el caso de Apple, siempre se han mantenido firmes en su postura contra el contenido sexual de este tipo, por lo que cabe esperar una actuación contundente.

En Applesfera | Image Playground: qué es y para qué sirve la nueva app de Apple con la que puedes crear todo tipo de imágenes

En Applesfera | Las 27 mejores aplicaciones para iPad con las que sacar el máximo rendimiento a tu tablet de Apple

-
La noticia X (Twitter) se ha llenado de fotos sexualizadas con la IA. Tanto que EEUU ha pedido a Apple y Google prohibir X y Grok fue publicada originalmente en Applesfera por Álvaro García M. .

Fuente: Applesfera
Enlace: X (Twitter) se ha llenado de fotos sexualizadas con la IA. Tanto que EEUU ha pedido a Apple y Google prohibir X y Grok