Una carta abierta firmada por 463 científicos reclama la creación de un organismo internacional que establezca estándares de seguridad para los modelos de inteligencia artificial con capacidad de interactuar con redes y sistemas externos. Entre los firmantes se encuentran Yoshua Bengio y Geoffrey Hinton, dos de los investigadores más influyentes en el desarrollo de esta tecnología.
El planteo se concentra en los modelos con capacidades informáticas avanzadas, capaces de utilizar herramientas, ejecutar código o comunicarse con otros sistemas. Los científicos advierten que distintas organizaciones ya informaron fallas en entornos de prueba que permitieron a modelos de IA superar barreras de aislamiento y alcanzar infraestructura externa.
La carta formula tres recomendaciones. En primer lugar, pide que las organizaciones que desarrollan, prueban o implementan estos modelos adopten sistemas de contención de alta seguridad. Como medida inicial, propone mantenerlos desconectados de internet hasta que existan garantías suficientes sobre su comportamiento.
También reclama un organismo internacional encargado de definir buenas prácticas, registrar fallas de contención y coordinar el trabajo entre especialistas en inteligencia artificial, ciberseguridad y gobiernos. La tercera propuesta exige que los incidentes sean informados a esa entidad y, posteriormente, divulgados para facilitar el aprendizaje y establecer responsabilidades.
El documento expresa una posición de la comunidad científica y no constituye una regulación ni una obligación para las empresas. Tampoco propone aislar todas las herramientas de IA utilizadas por consumidores o compañías: el reclamo apunta específicamente a sistemas con capacidades cibernéticas que puedan actuar sobre infraestructura externa.
La iniciativa aparece cuando ya funciona el Panel Científico Internacional Independiente sobre Inteligencia Artificial de las Naciones Unidas. Este órgano, integrado por 40 expertos, produce evaluaciones sobre oportunidades, riesgos e impactos de la tecnología. Sin embargo, su mandato es científico y no prescriptivo: no fija estándares técnicos obligatorios, supervisa laboratorios ni administra un registro de incidentes. La carta propone, por lo tanto, una instancia con funciones operativas diferentes.
Qué implica el debate para el turismo
La discusión tiene una derivación concreta para la industria turística. Agencias de viajes, aerolíneas, hoteles y plataformas están incorporando asistentes y agentes de IA conectados con inventarios, tarifas, reservas, perfiles de clientes, medios de pago y sistemas de atención.
Cuanto mayor sea la autonomía concedida a estas herramientas, mayor será la necesidad de definir qué información pueden consultar, qué acciones están autorizadas a ejecutar y cómo se interrumpe su funcionamiento ante una conducta inesperada. Un asistente que solo redacta una respuesta no presenta el mismo nivel de exposición que un agente habilitado para modificar una reserva, emitir un servicio o acceder a datos personales.
La OCDE identifica la seguridad, las filtraciones de datos y los flujos transfronterizos de información entre los principales riesgos de la IA aplicada al turismo. El organismo también advierte que los ataques no afectan únicamente a grandes cadenas hoteleras y agencias en línea: las pequeñas empresas y los gobiernos locales presentan una exposición creciente por su menor preparación y su dependencia de proveedores tecnológicos.
Para las empresas turísticas, el reclamo científico refuerza la necesidad de evaluar a los proveedores más allá de la precisión de sus respuestas. Los contratos y procesos de compra deberán considerar permisos de acceso, separación entre entornos de prueba y producción, trazabilidad de las acciones, protocolos de interrupción y mecanismos de notificación de incidentes.
La creación del organismo internacional todavía es una propuesta. Sin embargo, el debate anticipa una posible nueva etapa de la regulación: pasar de principios generales sobre el uso responsable de la IA a controles técnicos y obligaciones de reporte para los sistemas capaces de intervenir directamente en redes y operaciones.
