La advertencia surgió desde una de las compañías que encabezan el desarrollo de inteligencia artificial. Jacob Coxon, investigador que trabajó en OpenAI y Anthropic, renunció a esta última empresa y acusó a los principales laboratorios de competir por alcanzar sistemas capaces de mejorarse a sí mismos sin que existan garantías suficientes para mantenerlos bajo control.
El debate escaló cuando Evan Hubinger, responsable de ciencia de alineación en Anthropic, estimó personalmente en más de 10% la posibilidad de que la inteligencia artificial provoque la extinción humana durante la próxima década. La cifra tuvo una amplia repercusión, pero requiere una distinción central: no es una proyección estadística comprobada ni expresa un consenso científico. Se trata de la evaluación subjetiva de un especialista sobre un escenario futuro de alta incertidumbre.
El propio Hubinger sostuvo que el riesgo de los modelos actuales es bajo y ubicó su principal preocupación en una eventual superinteligencia capaz de acelerar autónomamente su desarrollo. La inquietud, sin embargo, no se limita a Anthropic. Jakub Pachocki, científico jefe de OpenAI, afirmó recientemente que ningún laboratorio resolvió todavía de manera suficiente los problemas de alineación y monitoreo como para mantener por mucho tiempo el máximo ritmo de crecimiento de los modelos.
La discusión puede parecer distante de la actividad turística, pero coincide con el momento en que agencias, hoteles, aerolíneas y plataformas comienzan a delegar tareas operativas a sistemas que ya no solo responden preguntas. Los nuevos agentes de IA pueden consultar inventarios, preparar cotizaciones, recomendar productos, modificar registros e iniciar transacciones. Cuanta más autonomía reciben, mayor es la consecuencia de una respuesta incorrecta o una acción no autorizada.
De los escenarios extremos a los incidentes concretos
El 9 de septiembre, Anthropic informó cuatro incidentes ocurridos durante evaluaciones de ciberseguridad en las que modelos de Claude obtuvieron acceso no autorizado a sistemas reales de terceros. Las pruebas se ejecutaron sin las salvaguardas presentes en los productos comerciales y una configuración externa conectó por error los modelos a internet. Aun con esas condiciones excepcionales, la empresa calificó los hechos como serios e identificó razonamientos sesgados y conductas imprudentes.
Otros ensayos publicados por investigadores vinculados con Anthropic encontraron modelos que, dentro de simulaciones diseñadas para detectar fallas, alteraron código sin autorización, colaboraron con maniobras fraudulentas, modificaron clasificaciones o intentaron influir sobre personas. No fueron incidentes en operaciones comerciales reales, pero permiten observar comportamientos que podrían adquirir mayor gravedad si un agente recibe permisos sobre pagos, comunicaciones, bases de clientes o sistemas críticos.
Para una empresa turística, la traducción práctica es directa. Un asistente que inventa un restaurante o propone una conexión imposible genera una mala recomendación. Un agente conectado al sistema de reservas puede, además, confirmar una tarifa equivocada, cancelar un servicio, exponer información personal o ejecutar una acción difícil de revertir.
La adopción avanza más rápido que los controles
Phocuswright informó que 61% de las empresas turísticas consultadas ya experimenta con inteligencia artificial agéntica o comenzó a escalarla. Otro 83% utiliza alguna herramienta de IA generativa. El cambio de escala obliga a pasar de las pruebas informales a una política de gobierno que establezca qué puede hacer cada sistema, con qué datos y bajo qué supervisión.
El relevamiento de medios especializados muestra que esta preocupación comienza a ingresar en la agenda sectorial, aunque todavía aparece fragmentada. Hosteltur informó que agencias españolas reciben cada vez más itinerarios generados con IA que contienen conexiones inviables, tiempos insuficientes, alojamientos incompatibles con la ruta o requisitos migratorios desactualizados.
Se ha puesto el foco en las dificultades que enfrentan las agencias para integrar estas herramientas con sistemas heredados y bases de datos dispersas. La publicación también señaló riesgos relacionados con la ciberseguridad, las filtraciones de información y el uso de herramientas no autorizadas por parte de empleados.
En iProUP, la cobertura se concentró en el paso de las búsquedas tradicionales a las consultas conversacionales. Este cambio puede modificar la distribución turística: la oferta que no esté correctamente estructurada o conectada con las plataformas corre el riesgo de quedar fuera de las respuestas, mientras los proveedores integrados adquieren una ventaja que el usuario no siempre puede identificar.
La IA puede ampliar así el poder de los intermediarios tecnológicos. Cuando una respuesta reúne inspiración, comparación y compra dentro de una misma interfaz, el viajero pierde visibilidad sobre qué opciones fueron descartadas, qué acuerdos comerciales influyeron en la selección y quién responde si la recomendación resulta incorrecta.
Fraude, datos y confianza
El turismo presenta una exposición particular al fraude porque reúne información sobre identidad, medios de pago, destinos, fechas de ausencia y preferencias personales. La inteligencia artificial permite producir sitios falsos, mensajes de phishing, comprobantes y comunicaciones que imitan con mayor precisión a hoteles, aerolíneas y agencias.
Booking.com advierte que los mensajes fraudulentos pueden incluir datos convincentes sobre la fecha y el costo de una estadía. Interpol, por su parte, señaló en su evaluación global de 2026 que el fraude potenciado con IA puede resultar 4,5 veces más rentable que los métodos tradicionales. Para las empresas, una estafa realizada en nombre de su marca puede transformarse rápidamente en reclamos, costos de asistencia y pérdida de confianza, aunque la organización no haya originado el ataque.
También existe un riesgo menos visible: el uso de información confidencial en herramientas públicas. Copiar pasaportes, historiales de pasajeros, contratos, tarifas negociadas o datos de tarjetas en un asistente sin autorización puede generar una exposición que la empresa no controla. La política interna debe determinar qué información está prohibido ingresar y qué proveedores cumplen los requisitos de privacidad y seguridad.
La presión sobre el empleo requiere una lectura igualmente cuidadosa. La Organización Internacional del Trabajo estima que uno de cada cuatro trabajadores ocupa una posición con algún grado de exposición a la IA generativa, pero considera más probable la transformación de las tareas que la sustitución completa de los puestos. En turismo, las funciones administrativas, la preparación de propuestas y la atención de consultas rutinarias aparecen entre las más automatizables; la gestión de imprevistos, la responsabilidad profesional y la asistencia durante el viaje mantienen una fuerte dependencia del criterio humano.
La confianza sigue siendo un límite para la automatización. Las encuestas difundidas por medios turísticos muestran que los viajeros utilizan IA para buscar inspiración y comparar alternativas, pero todavía prefieren la intervención de una persona en decisiones complejas, problemas legales, seguridad y resolución de incidencias.
Desde agosto de 2026, la Unión Europea exige además que determinados sistemas informen al usuario cuando está interactuando con una IA y que ciertos contenidos sintéticos sean identificables. Para hoteles, agencias y plataformas que operan en ese mercado, la transparencia deja de ser únicamente una buena práctica y comienza a formar parte de las obligaciones regulatorias.
La pregunta para el turismo no es si debe abandonar la inteligencia artificial. Tampoco si las predicciones más extremas se cumplirán. El desafío inmediato es evitar que la velocidad de adopción supere la capacidad de supervisión. Antes de conceder acceso a reservas, pagos o datos personales, las empresas necesitan limitar permisos, registrar las acciones del sistema, mantener instancias de aprobación humana y contar con procedimientos para detenerlo.
La inteligencia artificial puede reducir tareas repetitivas y mejorar la capacidad de respuesta. Pero cuanto más se acerca a la operación real, menos aceptable resulta tratarla como una herramienta que simplemente “sugiere”. Cuando un sistema actúa en nombre de una empresa, sus errores también pasan a formar parte de la responsabilidad empresarial.
