Cómo utilizar la IA de forma segura con niños: Guía completa de seguridad para padres

Si su hijo aún no ha hablado con un chatbot de IA, probablemente lo hará pronto. Los compañeros de IA ya se están convirtiendo en parte de la vida digital de los adolescentes, con 72% de los adolescentes estadounidenses diciendo que han usado un compañero de IA al menos una vez y más de la mitad los usan regularmente. Para muchas familias, la IA ya no es una preocupación futura, ya que silenciosamente se está convirtiendo en parte de las rutinas cotidianas, junto con los mensajes de texto, las aplicaciones de tareas, los juegos y las redes sociales.

Eso no significa que todas las herramientas de IA sean inseguras. Muchos pueden ayudar a los niños a aprender, intercambiar ideas, crear y explorar nuevas ideas. La preocupación es que muchas herramientas populares de IA no se diseñaron originalmente teniendo en cuenta la privacidad o el desarrollo emocional de los niños. Algunos pueden dar consejos equivocados. Otros pueden utilizarse indebidamente para crear imágenes explícitas falsas o contenido de intimidación que involucre a niños reales.

En esta guía, explicamos lo que los padres realmente necesitan saber: las herramientas de IA que usan los niños, los peligros de la IA para los niños, incidentes reales que muestran por qué es importante la orientación de los padres y consejos prácticos de seguridad de la IA que puede comenzar a usar en casa hoy.

Todo lo que necesita saber sobre la IA y la seguridad infantil en línea

• Los niños utilizan cada vez más chatbots de IA, compañeros, generadores de imágenes e IA integrada en las aplicaciones cotidianas.
• Los principales riesgos de la IA incluyen información errónea, falsificaciones profundas, filtraciones de privacidad, dependencia emocional y abuso académico.
• Las demandas reales y los incidentes falsos muestran que los riesgos de la IA para los niños ya están causando daños.
• Supervise las conversaciones del chatbot de IA de su hijo y realice un seguimiento del uso de ChatGPT para una detección temprana de riesgos.
• Elija herramientas de inteligencia artificial con verificación de edad confiable, protecciones de privacidad, salvaguardias en caso de crisis y controles parentales.
• Enseñar conocimientos sobre IA, verificación de datos y reglas claras sobre IA para fomentar el uso seguro y responsable de la IA.
• Combine conversaciones abiertas, supervisión continua y herramientas de monitoreo confiables para fortalecer la seguridad infantil en línea.

Seguridad de la IA para niños: lo que los padres deben saber primero

Los chatbots de IA no son peligrosos por diseño, pero casi ninguno de ellos hace un buen trabajo al confirmar la edad real de un usuario, y esta brecha está detrás de la mayoría de los problemas de los que escuchan los padres. Un chatbot no tiene una forma real de saber si está hablando con una persona de 35 o 13 años, por lo que no siempre ajusta lo que dice.

Los chatbots de IA se parecen menos a un motor de búsqueda y más a un extraño con el que su hijo puede hablar en cualquier momento, de día o de noche: siempre disponibles, siempre agradables y nunca cansados de la conversación. 

Eso es exactamente lo que los hace atractivos para los niños… y exactamente lo que los hace riesgosos. Para los padres, la IA y la seguridad infantil en línea ahora significan comprender dónde aparecen esos riesgos y qué se puede hacer para reducirlos.

Aquí tienes algunas lecturas que te encantarán.

👩‍❤️‍👨  Los 6 mejores filtros de Internet para familias [iPhone y Android]
🌊 Crianza tipo medusa: qué es y si sigue siendo relevante
🔞  Las 7 mejores aplicaciones para bloquear pornografía para adolescentes (Android e iOS)
⏰  Las 5 mejores aplicaciones similares a Bark: nuestras pruebas revelaron a los ganadores

¿Qué tipos de IA utilizan los niños hoy en día?

Las herramientas de IA ya no se limitan a una aplicación o un propósito. Los niños se topan con ellos mientras hacen la tarea, chatean en las redes sociales, juegan e incluso editan fotos, a menudo sin darse cuenta de que hay una IA involucrada.

Su hijo descarga deliberadamente algunas de estas herramientas; otros están silenciosamente integrados en aplicaciones que ya usan todos los días. Esta combinación es importante, porque una herramienta que su hijo buscó y una que apareció automáticamente dentro de Snapchat o Instagram conllevan niveles de riesgo muy diferentes y requieren conversaciones diferentes.

No todas las herramientas de IA son iguales y es útil saber la diferencia:

1. Chatbots generales

ChatGPT, Google Gemini, Microsoft Copilot, Grok y herramientas similares se incluyen en la categoría general de chatbots. Los niños suelen empezar aquí en busca de ayuda con la tarea, pero estos chatbots hablarán de casi cualquier cosa, donde las conversaciones pueden derivar fácilmente hacia un territorio mucho más personal, como consejos sobre relaciones o luchas emocionales.

2. Aplicaciones complementarias de IA

Las aplicaciones complementarias de IA como Character.AI, Replika, Nomi y otras están diseñadas específicamente para sentirse como un amigo, novio/novia o confidente. Los niños pueden personalizar el nombre, la personalidad e incluso su apariencia de la IA, lo que hace que la relación parezca más real. Estos son los más riesgosos de todos y los que atraen la mayor atención de los reguladores y las demandas.

Estas herramientas ahora están siendo objeto de un escrutinio más detenido por parte de los reguladores a medida que la FTC abrió un investigación sobre chatbots de IA actuando como acompañantes, preguntando específicamente cómo las empresas evalúan la seguridad de los chatbots e informan a los padres sobre los riesgos.

3. IA integrada en aplicaciones que los niños ya usan 

My AI de Snapchat y funciones similares en Instagram y otras aplicaciones ahora tienen AI incorporada. Los niños ni siquiera tienen que buscarlos, ya que están fijados directamente en la lista de chat o en la pantalla de la cámara, por lo que a menudo basta con un toque curioso para iniciar una conversación.

4. Generadores de imágenes y vídeos con IA

Algunas herramientas de IA están creadas legítimamente para proyectos creativos, edición de imágenes y creación de videos, pero también introducen graves riesgos de falsificación de IA a los que los niños pueden estar expuestos en línea. Herramientas como Midjourney, Nano Banana de Google y Grok Imagine pueden crear fotos o vídeos falsos a partir de una única imagen real, a menudo extraída de las redes sociales.

Un número cada vez mayor de aplicaciones de “nudificación”, incluida Clothoff, se han creado específicamente para hacer un mal uso de esta tecnología y ya se han utilizado para crear imágenes falsas y explícitas de niños sin su consentimiento.

5. Ayudantes de IA en las tareas 

Herramientas como Photomath o asistentes de escritura integrados en el software escolar o Google Docs también pueden llevar a los niños a zonas de sombra. Por lo general, estos tienen un riesgo emocional menor, ya que están diseñados para una tarea limitada, pero vale la pena verlos para que los niños no se apoyen en ellos para saltarse el aprendizaje del material.

6. Funciones de IA dentro de juegos y aplicaciones sociales

Roblox, Discord y plataformas similares están agregando funciones de chat de IA y personajes generados por IA, a veces con controles de seguridad más débiles que las aplicaciones de chatbot de renombre y, a menudo, sin una forma clara para que los padres vean lo que se dice.

El principal problema aquí es que la IA se ha extendido silenciosamente a casi todos los rincones de la vida digital de un niño, y no es solo una aplicación a la que puedes vigilar. Y con tanta exposición, vale la pena entender exactamente qué puede salir mal.

6 principales peligros de la IA que enfrentan los niños hoy en día

Estas no son preocupaciones lejanas o hipotéticas. Todos los riesgos que se detallan a continuación ya han causado un daño real a familias reales, desde niños que reciben consejos peligrosamente malos hasta adolescentes que forman vínculos poco saludables con un chatbot. Es por eso que la IA y la seguridad infantil en línea deben tratarse como una cuestión práctica para los padres, no como una preocupación tecnológica exagerada.

Algunos riesgos aumentan lentamente a lo largo de semanas o meses de uso diario, mientras que otros, como una sola imagen falsa, pueden causar daños en minutos.

1. Respuestas engañosas de la IA

Los chatbots de IA son buenos para parecer confiados, incluso cuando se equivocan. Pueden inventar hechos, inventar fuentes y dar información incorrecta con el mismo tono tranquilo y seguro que cuando tienen razón. Los niños a menudo no tienen la experiencia necesaria para saber cuándo los están engañando, especialmente en cuestiones relacionadas con la salud o la seguridad.

2. Exposición a contenido inapropiado

La mayoría de las herramientas de inteligencia artificial tienen algunos filtros de seguridad, pero esos filtros están lejos de ser perfectos. Las pruebas han descubierto que los investigadores que se hacen pasar por adolescentes vulnerables aún podrían recibir respuestas dañinas de ChatGPT. Esto implica que si un niño hace una pregunta de manera «incorrecta», a menudo puede evitar el filtro y obtener información sobre alcohol, drogas o contenido sexual que la aplicación debía bloquear.

3. Niños que comparten información privada con IA

Los chatbots de IA están diseñados para parecer interesados y fáciles de abrir, que es exactamente la razón por la que los niños los tratan como a amigos de confianza en lugar de como una pieza de software. Un chatbot hará preguntas de seguimiento, recordará detalles de etapas anteriores de la conversación y responderá con lo que parece una preocupación genuina. 

Por lo tanto, no pasa mucho tiempo antes de que un niño comparta cosas que normalmente mantendría en privado, como su nombre real, escuela, dirección, rutina diaria o problemas personales en el hogar. 

A diferencia de un amigo real, esa información se almacena en los servidores de una empresa y, en muchos casos, se utiliza para mejorar la propia IA o se comparte con terceros. Es por eso que los padres también necesitan realizar un seguimiento del uso de ChatGPT de sus hijos y otras actividades del chatbot de IA para comprender qué información se comparte y si la herramienta se está utilizando de forma segura.

4. Riesgos de la IA profunda que enfrentan los niños en línea

Un deepfake solía requerir mucha habilidad y tiempo para hacerlo. Ahora no es así. Con solo una foto extraída de un perfil de una red social y sin ningún conocimiento técnico, las herramientas gratuitas de inteligencia artificial pueden generar una imagen explícita, falsa y convincente en cuestión de minutos. 

Esa barrera baja es exactamente lo que hace que este riesgo sea tan generalizado, porque cualquiera con un teléfono y con rencor o malas intenciones puede crear uno. Esto ya ha sucedido en escuelas de todo el país, donde los compañeros de clase han hecho circular imágenes falsas de otros estudiantes, y los depredadores en línea lo utilizan cada vez más para chantajear a los adolescentes para que paguen dinero o envíen imágenes reales explícitas para hacer que la falsa «desaparezca». 

5. Dependencia emocional de los chatbots de IA

Las aplicaciones complementarias de IA no están diseñadas para ser neutrales. Están diseñados para mantener a los niños hablando el mayor tiempo posible, porque más tiempo dedicados a chatear significa más compromiso para la empresa detrás de la aplicación. 

Estos robots de IA son siempre amables, siempre están disponibles, nunca juzgan y nunca están demasiado ocupados, lo que puede resultar realmente atractivo para un adolescente solitario o socialmente incómodo que siente que finalmente tiene a alguien que lo entiende. 

Pero esa validación constante no tiene límites y, con el tiempo, poco a poco puede reemplazar las amistades y relaciones familiares reales. En los casos más graves documentados hasta ahora, este tipo de dependencia ha desempeñado un papel en la crisis de salud mental de un niño.

6. Uso indebido de la IA para hacer tareas y hacer trampa

Este es el problema más común en el día a día. En lugar de simplemente ayudar a los niños a estudiar, las herramientas de inteligencia artificial ahora pueden escribir ensayos completos, completar conjuntos completos de tareas e incluso generar respuestas para exámenes para llevar a casa en segundos. Eso no pone en peligro la vida. 

Pero sí socava las habilidades de pensamiento y escritura que los niños necesitan desarrollar, con las mismas habilidades de pensamiento crítico que de otro modo les ayudarían a detectar la IA cuando se equivoca en algo más serio. 

Tres incidentes reales de IA que muestran por qué es importante la orientación de los padres

Comprender estos incidentes es importante porque los padres no pueden proteger a sus hijos de riesgos que no pueden reconocer. Los consejos de seguridad de la IA para padres no se refieren solo a establecer límites de tiempo frente a la pantalla o elegir una aplicación popular; se trata de comprender cómo las diferentes herramientas pueden afectar la privacidad, las emociones, el juicio, la vida escolar y la reputación en línea de un niño.

Cada caso a continuación está documentado en expedientes judiciales o informes de noticias verificados, no en rumores o relatos de segunda mano. Abarcan diferentes tipos de herramientas de inteligencia artificial, desde los principales chatbots hasta aplicaciones complementarias y generadores de imágenes, lo que demuestra que esto no es solo una falla en el producto de una empresa, sino un desafío de seguridad más amplio en toda la industria.

Una nota rápida antes de continuar: Es posible que algunos de los ejemplos analizados en la siguiente sección no sean adecuados para todos los lectores. Proporcionan un contexto importante para comprender por qué la seguridad de la IA es importante para los niños, pero si prefiere no leer sobre estos temas, no dude en pasar a los consejos de seguridad que aparecen más adelante en el artículo.

1. La demanda de Character.AI

Este caso atrajo la atención mundial porque planteó preguntas urgentes sobre cuán emocionalmente persuasivos pueden llegar a ser los chatbots de IA para los adolescentes vulnerables. En octubre de 2024, un Se presentó una demanda contra Character.AI y Google., alegando que un niño de 14 años se suicidó después de meses de conversaciones emocionalmente intensas con un chatbot Character.AI inspirado en un personaje de “Juego de Tronos”. 

La denuncia afirma que el chatbot supuestamente mantuvo conversaciones románticas y sexuales con él y, en su intercambio final, le dijo que «volviera a casa». Reuters informó en enero de 2026 que Google y Character.AI acordaron resolver la demanda y los casos relacionados.

2. La demanda de ChatGPT y OpenAI 

Un joven de 16 años se suicidó en abril de 2025. Como muchos adolescentes, comenzó a usar ChatGPT como ayuda con la tarea y, durante varios meses, las conversaciones cambiaron gradualmente a un territorio mucho más personal, incluyendo eventualmente discusiones sobre métodos de suicidio. La demanda de la familia dice que los propios sistemas de OpenAI marcaron cientos de mensajes como preocupantes, pero nada detuvo la conversación ni alertó a los padres.

El caso aún está tramitándose en los tribunales. Es un recordatorio de que incluso una herramienta que su hijo utiliza para algo tan común como la tarea puede convertirse silenciosamente en algo completamente distinto. Y esta es exactamente la razón por la que debes monitorear las conversaciones del chatbot de IA de tu hijo y estar al tanto de cómo una conversación puede desviarse con el tiempo.

3. El caso del deepfake de la escuela secundaria Westfield

A finales de 2023, un grupo de chicos en una escuela secundaria de Nueva Jersey utilizó una aplicación gratuita de inteligencia artificial para convertir fotos comunes de las redes sociales de más de 30 compañeras de clase en imágenes de desnudos falsos, que luego circularon por la escuela. Para empezar, ninguna de las fotografías utilizadas para crear las imágenes era explícita; la herramienta de IA hizo todo el trabajo. 

La historia fue noticia a nivel nacional, y una de las víctimas pasó los siguientes dos años abogando por protecciones más sólidas, lo que ayudó a que se aprobaran una ley estatal de Nueva Jersey y una ley federal, la Ley TAKE IT DOWN, ambas firmadas en 2025. 

Es un caso útil para los padres específicamente porque nada requería ningún acceso especial o habilidad técnica: cualquier foto publicada públicamente en línea, incluso una completamente inocente, era suficiente materia prima para que la tecnología funcionara.

Consejos de seguridad de la IA para padres: ¿Qué hacer si la IA está dañando a sus hijos?

Leer esas historias es una cosa; saber qué hacer realmente si reconoce alguna de esas señales de advertencia en su propio hijo es otra. Si le preocupa que una aplicación de inteligencia artificial ya esté afectando a su hijo, esto es lo que debe hacer, en orden:

1. No elimines nada de inmediato

Si existe alguna posibilidad de chantaje o de una conversación seria, conserve capturas de pantalla y mensajes como evidencia antes de cambiar o eliminar algo.

2. Mira lo que se ha compartido

Revise y realice un seguimiento del uso de ChatGPT de su hijo, así como de sus otros chats de IA, para obtener detalles personales como su nombre, escuela, dirección, fotos o cualquier otra cosa que haya compartido. Esto puede ayudarle a detectar los riesgos de privacidad antes de que aumenten. 

3. Denúncialo

Si hay imágenes explícitas de su hijo involucradas, repórtelas a CyberTipline en report.cybertip.org, que trabaja con las autoridades policiales en todo el país.

4. Trate cualquier signo de autolesión como urgente

Si su hijo ha hablado sobre suicidio o autolesión con un chatbot de IA, llame o envíe un mensaje de texto al 988 de inmediato y comuníquese con un profesional de salud mental.

5. No bloquees sólo una aplicación

Los niños que se sienten atraídos por la compañía de IA a menudo cambian a una aplicación diferente una vez que se bloquea una. Hable con ellos sobre por qué, no solo sobre qué.

6. Esté atento a lo que sucederá en el futuro

Una vez que haya resuelto el problema inmediato, la visibilidad continua de las aplicaciones que usa su hijo le ayudará a detectar los problemas temprano la próxima vez, en lugar de después de que algo haya sucedido.

¿Cómo elegir herramientas de IA seguras para niños?

Una vez que haya manejado cualquier cosa urgente, el siguiente paso es decidir qué herramientas de inteligencia artificial realmente vale la pena dejar en su casa en el futuro. Algunas cosas simples que debe verificar antes de permitir que su hijo use cualquier aplicación de inteligencia artificial:

1. ¿Verifica realmente la edad?

La mayoría de las aplicaciones simplemente piden a los usuarios que escriban su fecha de nacimiento al registrarse, sobre lo cual cualquiera, incluido un niño de 10 años, puede mentir en dos segundos. Busque aplicaciones que requieran algún tipo de aprobación de la cuenta de los padres o un paso de verificación más allá de una simple casilla de verificación, ya que eso suele ser una señal de que la empresa ha pensado realmente en quién está al otro lado de la conversación.

2. ¿Son confiables los filtros de seguridad?

Todas las empresas de inteligencia artificial afirman que su aplicación es segura para los niños, pero las afirmaciones y la realidad no siempre coinciden. Busque reseñas independientes; Common Sense Media es un buen lugar para comenzar a ver si los filtros de seguridad de la aplicación realmente funcionan cuando los prueban personas ajenas a la empresa.

3. ¿Qué sucede con los datos de su hijo?

Compruebe si la aplicación guarda conversaciones, cuánto tiempo las conserva y qué hace con ellas, incluso si esos datos se utilizan para entrenar aún más la IA o se comparten con terceros. Si examina la política de privacidad y aún no encuentra una respuesta clara, lo más seguro es asumir lo peor.

4. ¿Maneja las crisis adecuadamente?

Una buena herramienta de inteligencia artificial debería ser capaz de reconocer signos de autolesión o angustia grave en una conversación y orientar a los niños hacia ayuda humana real, en lugar de simplemente continuar la conversación como si no se hubiera dicho nada preocupante.

5. ¿Está diseñado para un solo propósito o es abierto?

Un ayudante con las tareas o un tutor de matemáticas es generalmente mucho más seguro que un chatbot abierto destinado a sentirse como un amigo, simplemente porque hay mucho menos espacio para que la conversación se desvíe hacia algún lugar donde no debería.

¿Cómo garantizar el uso seguro de la IA para los niños en el futuro?

Reaccionar ante un problema o examinar una sola aplicación solo te lleva hasta cierto punto, ya que las nuevas herramientas de inteligencia artificial aparecen más rápido de lo que cualquier lista de reglas puede seguir. El enfoque más duradero es desarrollar hábitos, establecer reglas claras de IA para los niños y establecer conversaciones en el hogar que se mantengan sin importar qué nueva aplicación descargue su hijo a continuación. Aquí es por dónde empezar. 

1. Enseñar alfabetización en IA

Ayude a su hijo a comprender que un chatbot de IA no es una persona y en realidad no la conoce ni se preocupa por ella, sin importar cómo pueda parecer. Está generando respuestas basadas en patrones, no en una comprensión real. Ese cambio mental de enseñar a los niños únicamente conocimientos de IA ayuda a que los niños traten las respuestas de la IA con un escepticismo un poco más saludable. 

2. Desarrollar hábitos de verificación de datos

Adquiera a sus hijos el hábito de verificar todo lo importante que les diga una IA, especialmente sobre tareas escolares, preguntas de salud o cualquier cosa que parezca sorprendente. Trate las respuestas de la IA como un punto de partida, no como la última palabra.

3. Discutir abiertamente los riesgos digitales

Hable directamente con sus hijos sobre deepfakes, sextorsión y aplicaciones complementarias de inteligencia artificial, utilizando ejemplos reales como los anteriores. Es mucho más probable que los niños acudan a usted si algo sale mal cuando ya han escuchado estos temas discutidos con calma, sin juzgarlos. 

4. Establecer y actualizar reglas de IA para niños

Decidan juntos qué herramientas de IA se pueden usar, para qué y cuándo. Revise estas reglas cada pocos meses, ya que constantemente aparecen nuevas aplicaciones. Asegúrese de que las reglas cubran específicamente las aplicaciones complementarias de IA y los generadores de imágenes, no solo los chatbots generales como ChatGPT. 

5. Utilice la aplicación de seguimiento infantil XNSPY

Hablar con sus hijos es de gran ayuda, pero no le dice qué sucede en su teléfono cuando usted no está cerca.

Debido a que gran parte de la actividad de IA de un niño ocurre dentro de aplicaciones que ya usa, una herramienta como Xnspy puede ayudar a los padres a monitorear las conversaciones del chatbot de IA de sus hijos y detectar nuevos riesgos de manera temprana. Puede alertarle si su hijo comienza a usar una aplicación complementaria de IA, interactúa con un chatbot desconocido o accede a una herramienta de IA que usted no ha aprobado.

Xnspy también incluye un grabador de pantalla que captura instantáneas periódicas de lo que sucede en la pantalla de su hijo y las muestra en un panel web accesible. Esto es especialmente útil para los chatbots de IA, ya que un chat puede verse completamente diferente dependiendo de cómo haya evolucionado la conversación, y una grabación de pantalla le brinda una imagen más clara que un registro de chat por sí solo.

Además, el registrador de teclas de Xnspy registra lo que se escribe en el dispositivo, lo que puede ayudar a los padres a darse cuenta si el niño le está preguntando a un chatbot de inteligencia artificial algo preocupante, si está compartiendo detalles personales o si lo están contactando a través de un mensaje vinculado a un intento de sextorsión.

Si ya ha visto suficiente y solo quiere eliminar una aplicación específica, el bloqueo de aplicaciones le permite restringirla en el momento en que decide que no es apropiada, sin tener que quitarle todo el teléfono.

Aunque ninguna aplicación puede reemplazar una conversación honesta con su hijo, una herramienta como Xnspy puede ayudarlo a mantenerse al tanto de lo que realmente sucede entre esas conversaciones, que es exactamente donde la mayoría de los casos de esta guía pasaron desapercibidos durante demasiado tiempo.

Conclusión

La IA no va a desaparecer y pretender que su hijo no la encontrará no es un plan realista. Lo que realmente ayuda es comprender las herramientas específicas con las que probablemente se encontrarán, reconocer las señales de advertencia antes de que se conviertan en algo serio, enseñarles a los niños conocimientos de inteligencia artificial y mantenerse lo suficientemente involucrados como para darse cuenta cuando una conversación ha ido a algún lugar que no debería.

Nada de eso requiere convertirse en un experto de la noche a la mañana. Simplemente significa tratar la IA de la misma manera que trataría cualquier otra parte de la vida digital de su hijo: con una combinación de confianza, conversación abierta y una cantidad razonable de supervisión.

Preguntas frecuentes

¿A qué edad pueden los niños utilizar chatbots de IA de forma segura?

No existe una edad segura única, pero la mayoría de los expertos coinciden en que las aplicaciones complementarias de IA en particular no son apropiadas para menores de 18 años, dada la facilidad con la que se pueden usar incorrectamente. Los chatbots generales como ChatGPT tienen un riesgo un poco menor, pero aún necesitan supervisión, especialmente para niños menores de 13 años.

¿Pueden los padres monitorear el uso del chatbot de IA de sus hijos?

La mayoría de las aplicaciones de inteligencia artificial no brindan a los padres una forma de ver las conversaciones de forma predeterminada, aunque algunas han comenzado a agregar controles parentales básicos después de la presión pública. Una aplicación de monitoreo como Xnspy puede ayudar a llenar ese vacío al mostrar qué aplicaciones están instaladas y qué sucede en el dispositivo.

¿Cómo afectan específicamente los deepfakes de IA a los niños?

Todo lo que se necesita es una foto, a menudo algo publicado públicamente en línea, para que una herramienta de inteligencia artificial genere una imagen explícita, falsa y convincente. Esto se ha utilizado para intimidar a los compañeros de clase y, en algunos casos, para chantajear a los adolescentes por dinero, a veces con resultados trágicos.

¿Qué debo hacer si mi hijo recibe una imagen falsa de IA o una amenaza de sextorsión?

No pagues y no borres los mensajes. Repórtelo a CyberTipline en informe.cybertip.org y a la policía local, y si le exigieron dinero, repórtelo también al FBI en ic3.gov. Si su hijo muestra algún signo de desesperanza o habla de suicidio, llame o envíe un mensaje de texto al 988 de inmediato.

¿Las aplicaciones complementarias de IA almacenan las conversaciones privadas de los niños?

Sí, en casi todos los casos. La mayoría de las aplicaciones complementarias de IA y de chatbot guardan conversaciones y pueden usarlas para mejorar aún más la IA. Vale la pena asumir que todo lo que se escribe en una de estas aplicaciones no es privado.