Reunen firmas contra la IA Grok por ser dañina para los niños
publisher
mcora
La plataforma de descarga de aplicaciones y una red social que solía llamarse Twitter tienen entre sus ofertas un chatbot llamado Grok. Se puede descargar en el App Store. También está integrado en X. Y su característica principal, la que lo hace atractivo para algunos, es que permite generar material con inteligencia artificial y publicarlo de manera casi inmediata. Ese material, sea real o falso, puede volverse viral. Pero esa facilidad, según una organización que ha probado el sistema, tiene un costo.
Common Sense Media, una entidad que se dedica a evaluar el impacto de la tecnología en los niños y las familias, ha probado muchos chatbots de inteligencia artificial. Y asegura que todos tienen riesgos. Pero con Grok, dicen, la situación es peor. En sus propias palabras: "Hemos probado muchos chatbots de IA, y todos tienen riesgos, pero tenemos que ser honestos con ustedes: Grok es uno de los peores que hemos visto".
Lo que han encontrado en sus pruebas es que Grok genera contenido dañino e inapropiado con frecuencia. Y lo hace incluso en el llamado "Kids Mode", un modo que debería estar diseñado para proteger a los usuarios más jóvenes. Además, la herramienta permite crear y difundir imágenes generadas por inteligencia artificial sin el consentimiento de las personas retratadas, incluyendo imágenes altamente sexualizadas de menores de edad. La organización señala que las salvaguardas para niños son débiles, que los resultados que arroja el chatbot son extremadamente inapropiados, y que la empresa no responde a las quejas. Todo eso, según Common Sense Media, convierte a Grok en un riesgo particular para los usuarios jóvenes.
Por eso, han lanzado una petición dirigida a X. En ella exigen que la plataforma instale de manera inmediata barreras de seguridad para niños y adolescentes, con el fin de protegerlos del diseño inseguro de Grok. La organización es contundente en su diagnóstico: "El enfoque 'sin filtros' de Grok es actualmente inseguro. Está ocurriendo un daño real, y sin embargo los niños y adolescentes siguen usando esta tecnología a diario". La petición termina con un llamamiento: "Juntos, podemos presionar ahora para proteger mejor la seguridad y el bienestar de nuestra juventud".
No hay en este texto citas de funcionarios ni declaraciones de la empresa propietaria de Grok. Solo está la voz de Common Sense Media, que ha hecho pruebas y ha llegado a una conclusión. Y la difunde. Mientras tanto, la aplicación sigue disponible para su descarga, y el modo infantil sigue activo, y los niños y adolescentes, según la organización, siguen usando esta tecnología a diario. La petición está ahí, firmando se puede, pero lo que ocurra después dependerá de si X escucha o no.
Si desea firmar:
© SomosTV LLC-NC / Photo: © X
Comentarios