Las demandas por presuntos daños a menores, la disputa por secretos industriales con Apple y una investigación por espionaje dentro de la empresa, colocan a la creadora de ChatGPT ante una creciente exigencia de rendir cuentas
El éxito de ChatGPT abrió una puerta que millones de personas atraviesan cada día para estudiar, trabajar, buscar información o encontrar respuestas a preguntas que no siempre se atreven a formular en voz alta. Pero, detrás de esas interacciones en apariencia simples, crecen problemas mucho más complejos: quién responde cuando la inteligencia artificial falla, qué ocurre con la información que recibe y hasta dónde pueden llegar las empresas que compiten por dominarla.
OpenAI, la compañía que convirtió ese intercambio en uno de los productos tecnológicos más reconocibles del mundo, atraviesa una etapa de creciente presión judicial y empresarial, especialmente en estos días de octubre. Nuevas demandas en Estados Unidos han puesto bajo escrutinio la seguridad de ChatGPT, el tratamiento de los datos de menores y la responsabilidad de sus desarrolladores. Al mismo tiempo, una batalla con Apple enfrenta a antiguos socios comerciales por presuntos robos de secretos industriales, mientras una investigación penal añade interrogantes sobre la seguridad de la información dentro de la propia OpenAI.
Los casos tienen orígenes distintos y todavía deben superar el examen de los tribunales, pero vale cuestionarse si bastan las medidas de protección que anuncian los desarrolladores cuando sus sistemas alcanzan una escala de uso masivo.
El 10 de julio último, Apple presentó una demanda federal contra OpenAI y varios antiguos empleados de la compañía. La acusación sostiene que OpenAI habría aprovechado la incorporación de profesionales procedentes de Apple para obtener información confidencial sobre futuros productos, procesos de fabricación y diseños de hardware.
Entre los señalados, figuran Tang Yew Tan, antiguo responsable de hardware de Apple que pasó a dirigir esa área en OpenAI, y Chang Liu, otro exempleado de la empresa de Cupertino. Apple sostiene que la contratación de personal formó parte de una estrategia para apropiarse de conocimientos industriales protegidos. OpenAI rechaza las acusaciones y presenta la demanda como un intento de frenar la competencia por el talento.
La disputa adquirió otra dimensión el 14 de octubre último. Según informó Bloomberg, un juez federal se mostró muy inclinado a conceder una medida cautelar que impidiera utilizar los secretos comerciales que Apple considera sustraídos. OpenAI aceptó no emplear esa información, mientras continúa el litigio. El acuerdo también contempla la recopilación de imágenes forenses de dispositivos de 14 empleados para examinar si contienen materiales confidenciales de Apple. La concesión no equivale a reconocer que hubo robo, pero sí impone límites provisionales en la medida que avanza el proceso.
Ese mismo día, OpenAI presentó sus propias acusaciones. Según documentos judiciales citados por The Wall Street Journal y Financial Times, un antiguo empleado que regresó a Apple habría transferido a cuentas personales más de un centenar de archivos confidenciales relacionados con un dispositivo de hardware todavía no anunciado. La empresa teme que los documentos, con información de ingeniería, fabricación y proveedores, hayan llegado a manos de personal de Apple.
Apple negó que las acusaciones estuvieran respaldadas por pruebas suficientes y sostuvo que no encontró los archivos en sus sistemas. También calificó la maniobra de OpenAI como una distracción frente a la demanda original. Por ahora, ninguna de las dos partes ha demostrado judicialmente que la otra haya cometido apropiación ilícita de secretos comerciales.
La controversia tiene una dimensión estratégica que va más allá de los documentos. OpenAI quiere desarrollar dispositivos capaces de llevar sus sistemas de inteligencia artificial más allá de las aplicaciones y los navegadores. Para ello ha reclutado profesionales con experiencia en el diseño de productos de consumo, entre ellos antiguos trabajadores de Apple, y se ha asociado con el diseñador Jony Ive para explorar nuevas categorías de hardware.
Apple, entretanto, necesita reforzar su posición en la inteligencia artificial y renovar la experiencia de Siri. El 13 de octubre presentó HomeView, un dispositivo para el hogar conectado que apuesta por una asistente más contextual y personalizada. El producto ilustra por qué el hardware se ha convertido en otro terreno de competencia entre compañías que antes podían colaborar.
La relación ya mostraba fisuras en mayo. Bloomberg informó entonces que OpenAI estudiaba acciones legales porque consideraba insuficientes los beneficios de su acuerdo de integración con el ecosistema de la compañía. ChatGPT había llegado a dispositivos Apple como una opción para determinadas solicitudes de Siri, pero la asociación no generó el volumen de usuarios y suscripciones que OpenAI esperaba.
Apple, además, ha explorado modelos de otros desarrolladores para reforzar sus servicios de inteligencia artificial. Bloomberg y Reuters informaron de sus planes para recurrir a Gemini, de Google, en la evolución de Siri. La diversificación no demuestra por sí misma un incumplimiento contractual, pero refleja que Apple no piensa depender de un único proveedor.
Así, una colaboración concebida para extender el alcance de ChatGPT se ha transformado en una disputa por el talento, la propiedad intelectual y el control de los dispositivos, que podrían definir la siguiente etapa de la computación personal.
Mientras Apple y OpenAI discuten por secretos industriales, la compañía enfrenta otro conflicto con consecuencias directas para sus usuarios. El 14 de octubre, ocho estados estadounidenses presentaron demandas independientes contra OpenAI: Iowa, Kansas, Nebraska, Virginia Occidental, Arkansas, Arizona, Idaho y Montana acusan a la empresa de ofrecer un producto inseguro, engañar a los consumidores sobre sus riesgos y causar daños, en particular entre niños y adolescentes.
Las demandas sostienen que ChatGPT puede reforzar ideas delirantes, ofrecer consejos médicos peligrosos y contribuir a conductas autolesivas o violentas. También cuestionan que el consorcio presente el sistema como un interlocutor comprensivo sin advertir con suficiente claridad de sus limitaciones. Las autoridades reclaman medidas correctivas y sanciones conforme a las leyes de sus respectivos estados.
OpenAI respondió que sus productos cuentan con protecciones específicas para cada edad y que trabaja con especialistas para reforzarlas. Drew Pusateri, su portavoz, señaló que ningún sistema puede ser perfecto y mencionó funciones como los controles parentales, los recordatorios para hacer pausas y las medidas destinadas a limitar contenidos perjudiciales para los adolescentes.
Sin embaro, el 7 de octubre último Common Sense Media publicó una evaluación de ChatGPT para adolescentes que llegó a una conclusión severa. Su Youth AI Safety Institute (Instituto para la seguridad de la juventud), calificó la experiencia como un «riesgo inaceptable» para los menores de 18 años y pidió restringir el acceso hasta que OpenAI demuestre que sus protecciones resultan eficaces.
El organismo realizó más de 4 000 pruebas, antes y después del lanzamiento de ChatGPT para adolescentes, en agosto último. Según sus resultados, algunas barreras funcionaban, como el rechazo de determinadas interacciones sexuales explícitas, pero otras presentaban fallos. Los investigadores encontraron dificultades para activar la experiencia juvenil cuando el sistema no reconocía a un usuario como menor, así como respuestas que no siempre orientaban hacia recursos de ayuda ante conversaciones sobre crisis emocionales. También cuestionaron la fiabilidad de las alertas parentales.
OpenAI puso en duda que los exámenes reflejaran el funcionamiento definitivo de sus controles, pues algunas funciones se activaban de forma gradual. Common Sense Media respondió el 13 de octubre que esa explicación no resolvía los fallos observados, incluidos los registrados después de que las cuentas ya contaran con las protecciones correspondientes.
La discusión se intensificó con otra demanda, presentada en California, y divulgada por Reuters el 13 de octubre. Una madre, en representación de sus dos hijos, de 12 y 16 años, respectivamente, acusa a OpenAI de recopilar y aprovechar información personal de menores sin el consentimiento parental exigido. La querella aspira a convertirse en una acción colectiva y reclama una compensación económica o participación en el capital de la compañía, calculada en función de los datos aportados por cada usuario.
Un reportaje de CNET del 14 de octubre recoge fragmentos de conversaciones que, según la demanda, muestran a ChatGPT continuando el intercambio con una niña, incluso, después de que ella revelara tener 12 años. La menor habría compartido fotografías y consultado al sistema sobre su apariencia, sus emociones y sus relaciones familiares. En uno de los ejemplos citados, el chatbot aceptó evaluar su aspecto físico a partir de una imagen.
Son alegaciones judiciales, no hechos establecidos mediante sentencia. Pero, ponen sobre la mesa cuestiones que no se resuelven con un aviso en las condiciones de uso: cómo verifica una plataforma la edad de sus usuarios, qué información recoge durante conversaciones íntimas y qué límites aplica cuando un menor comparte inseguridades o pide ayuda.
OpenAI establece que sus servicios están dirigidos a personas de 13 años o más y que los menores de 18 necesitan permiso de sus padres o tutores. La petición judicial cuestiona la eficacia de esos requisitos y de los mecanismos que deberían hacerlos cumplir. También discute el posible uso posterior de los datos, aunque las condiciones de privacidad y las opciones de entrenamiento deben analizarse por separado de las acusaciones concretas formuladas en el proceso.
El problema no afecta únicamente a OpenAI. La industria ha convertido los asistentes conversacionales en herramientas de estudio, entretenimiento y apoyo emocional, a menudo mediante interfaces que imitan los ritmos de una conversación entre personas. Esa cercanía puede facilitar el aprendizaje, pero también confundir a usuarios que todavía desarrollan sus criterios para evaluar la fiabilidad de una respuesta o reconocer los límites de una máquina.
El 13 de octubre, Associated Press informó de la detención de Abdulrahman Alfozan, un ingeniero de OpenAI acusado de instalar un dispositivo de grabación clandestino en una sala de reuniones de la compañía en San Francisco. Según la denuncia penal, el aparato apareció oculto detrás de un televisor y conectado a un puerto USB. Los investigadores sostienen que el objetivo era captar conversaciones relacionadas con información tecnológica sensible.
OpenAI confirmó que detectó el dispositivo, notificó el incidente al FBI y despidió al empleado. La empresa afirmó que, durante su investigación interna, no encontró indicios de que se hayan extraído datos de sus modelos ni código fuente.
Posteriormente, AP y otros medios añadieron detalles sobre las preocupaciones de los fiscales acerca de un posible riesgo de fuga y los contactos del acusado con personas vinculadas a Arabia Saudita. Alfozan permanece sujeto al proceso penal y su culpabilidad no ha sido establecida. Su defensa cuestiona las sospechas y pide que se examine la evidencia, antes de atribuirle intenciones que todavía deben probarse.
El episodio revela, en cualquier caso, una vulnerabilidad distinta de las que aparecen en las conversaciones con un chatbot. Las compañías de inteligencia artificial protegen modelos, diseños, datos de entrenamiento, planes de producto y conversaciones internas, cuyo valor comercial puede ser enorme. La seguridad depende tanto de los sistemas informáticos como de los controles de acceso, la supervisión y la conducta de las personas que trabajan dentro de la organización.
La presión judicial llega, además, en un momento de intensa competencia por el capital. Reuters informó esta semana que OpenAI buscaba acelerar una ronda de financiación de hasta 30 000 millones de dólares, con una valoración potencial superior a 1,4 billones. La cifra muestra la distancia entre la escala económica que persigue la empresa y las preguntas que ahora debe responder sobre seguridad, privacidad y responsabilidad.
No conviene confundir demandas con condenas, ni presentar cada acusación como prueba de una crisis irreversible. Los procesos abiertos contra OpenAI tienen objetos distintos y desenlaces inciertos. Sin embargo, su acumulación obliga a examinar cómo se distribuyen los riesgos cuando una tecnología privada se incorpora a la vida cotidiana de millones de personas.
La inteligencia artificial no se juega su futuro únicamente en la potencia de sus modelos, la velocidad de sus respuestas o la capacidad de fabricar nuevos dispositivos. También lo hace en la confianza que consigue conservar. Si una empresa pide a sus usuarios que compartan información personal, a los padres que confíen en sus salvaguardas y a los inversores que apuesten por su crecimiento, debe aceptar que esas promesas se sometan a pruebas independientes y a controles públicos.
Para OpenAI, el desafío ya no consiste solo en demostrar lo que ChatGPT puede hacer. Debe responder por lo que permite hacer y por aquello que sus sistemas todavía no consiguen evitar. Esa es una prueba menos espectacular que una nueva generación de modelos, pero, quizá, mucho más importante para el futuro de la inteligencia artificial.
