Entrevista a Amadeo Pérez, CEO de XTechAI: «El riesgo de la IA es avanzar más rápido de lo que podemos controlar»

Por Francesc J. Gómez

La inteligencia artificial ha dejado de ser una promesa tecnológica para convertirse en uno de los grandes procesos de transformación empresarial de esta década. Mientras compañías de todo el mundo aceleran su adopción, crecen las advertencias sobre sus posibles consecuencias para el empleo, la ciberseguridad, la privacidad o el control de sistemas cada vez más autónomos.

Amadeo Pérez, fundador y CEO de XTechAI, dirige un holding tecnológico español especializado en inteligencia artificial, consultoría tecnológica, automatización y desarrollo de software.

La visión de Amadeo Pérez sobre estos cambios ha sido recogida también en una publicación de Europa Press, distribuida a través de distintos medios y servicios informativos.

A continuación reproducimos la entrevista completa realizada por el periodista Francesc J. Gómez.

Un informe publicado por Bernie Sanders estimaba que la IA y la automatización podrían sustituir cerca de 100 millones de empleos en Estados Unidos durante la próxima década. ¿Estamos ante una revolución tecnológica o ante una amenaza para el mercado laboral?

Amadeo Pérez: Las dos cosas pueden coexistir. Sería ingenuo pensar que una tecnología capaz de realizar determinadas tareas intelectuales y automatizar procesos no va a transformar profundamente el empleo.

Creo que desaparecerán tareas, algunas profesiones cambiarán y aparecerán otras nuevas. La cuestión fundamental será cómo gestionamos esa transición.

El problema no es utilizar IA para eliminar trabajo repetitivo o aumentar la productividad. El riesgo aparece si el único objetivo es sustituir personas sin plantearnos cómo preparamos a trabajadores y empresas para ese cambio.

Jacob Coxon dejó Anthropic por sus preocupaciones sobre la seguridad de la IA. Cuando alguien que trabaja dentro de uno de los principales laboratorios decide marcharse, ¿deberíamos preocuparnos?

Amadeo Pérez: Deberíamos escucharlo, pero sin convertir automáticamente los escenarios más extremos en certezas.

Cuando investigadores que conocen estos sistemas desde dentro expresan preocupación sobre autonomía, alineamiento o pérdida de control, sería un error ignorarlos. Pero existe una enorme distancia entre reconocer que un riesgo existe y afirmar que necesariamente va a producirse.

Desde nuestra actividad como consultora especializada en inteligencia artificial, defendemos precisamente una adopción responsable: supervisión humana, permisos limitados, protección de datos y evaluación del riesgo antes de automatizar procesos sensibles.

Cuanto más capaz sea la IA, más importantes serán estos mecanismos.

Anthropic ha planteado que sistemas de IA extremadamente potentes podrían aparecer en un plazo relativamente corto. ¿Estamos preparados para una evolución tan rápida?

Amadeo Pérez: Probablemente no del todo.

Hace pocos años hablábamos principalmente de modelos capaces de generar texto, pero ahora hablamos de agentes que pueden utilizar herramientas, navegar por sistemas, escribir software, analizar enormes cantidades de información y ejecutar cadenas completas de acciones.

El gran salto no será únicamente que la inteligencia artificial responda mejor.

Será que empiece a actuar.

Y cuando un sistema deja de limitarse a recomendar y comienza a ejecutar acciones aparecen preguntas mucho más importantes sobre permisos, responsabilidad, seguridad y control.

Entonces, ¿podríamos llegar a perder el control sobre determinados sistemas de inteligencia artificial?

Amadeo Pérez: Hay que diferenciar entre escenarios extremos todavía hipotéticos y problemas que ya son completamente reales.

Hoy me preocupa más una IA con demasiados permisos dentro de una empresa que una supuesta máquina consciente.

Si conectamos un agente al correo electrónico, al CRM, a las bases de datos, a servidores o a determinados sistemas empresariales y le permitimos ejecutar acciones autónomamente, un error puede tener consecuencias importantes.

En nuestro trabajo diario de consultoría informática, vemos que cada vez tiene menos sentido separar tecnología, ciberseguridad e inteligencia artificial.

Todo comienza a formar parte del mismo ecosistema.

La pregunta ya no es solamente:

¿Qué puede hacer esta IA?

La pregunta empieza a ser:

¿Qué le estamos permitiendo hacer?

¿Puede la inteligencia artificial convertirse también en un arma para los ciberdelincuentes?

Amadeo Pérez: Sin duda puede aumentar significativamente sus capacidades.

La misma tecnología que ayuda a un desarrollador a localizar una vulnerabilidad puede utilizarse con objetivos maliciosos.

También puede facilitar campañas de phishing mucho más convincentes, automatizar determinadas tareas o generar contenido fraudulento a gran escala.

Esto genera una carrera tecnológica en la que utilizaremos inteligencia artificial para atacar y también para defendernos.

Por eso creo que la ciberseguridad será una de las áreas fundamentales durante esta nueva etapa.

La Unión Europea está aplicando el AI Act. ¿Existe el riesgo de que regular demasiado la inteligencia artificial frene la innovación europea frente a Estados Unidos o China?

Amadeo Pérez: Encontrar el equilibrio es complicado.

Una regulación excesivamente rígida sobre una tecnología que cambia cada pocos meses puede generar barreras, pero esperar a que aparezcan problemas graves para establecer reglas tampoco parece razonable.

Creo que debemos centrarnos especialmente en los usos y niveles de riesgo.

No tiene las mismas consecuencias utilizar IA para resumir un documento que permitir que un sistema tome decisiones relevantes sobre personas, gestione información especialmente sensible o intervenga en infraestructuras críticas.

La regulación tendrá necesariamente que evolucionar junto con la tecnología.

Los agentes de IA prometen ejecutar tareas completas de forma autónoma. ¿Estamos cerca de tener auténticos «empleados digitales»?

Amadeo Pérez: Estamos cada vez más cerca de sistemas capaces de recibir una tarea, consultar documentación, utilizar distintas herramientas, preparar un resultado y ejecutar determinadas acciones bajo supervisión.

No me gusta demasiado llamarlos empleados digitales porque simplifica en exceso lo que son, pero sí creo que cambiarán profundamente nuestra forma de trabajar.

En el ámbito del software a medida, ya no se trata únicamente de programar funcionalidades tradicionales.

Cada vez veremos más sistemas donde el software convencional, las automatizaciones y la inteligencia artificial trabajen conjuntamente.

Ahí existe una oportunidad empresarial enorme.

Si tuviera que anticipar qué ocurrirá durante los próximos tres años, ¿qué cree que sorprenderá más a la gente?

Amadeo Pérez: Que dejaremos de hablar constantemente de inteligencia artificial.

Ahora ponemos la etiqueta IA prácticamente a cualquier producto porque todavía representa una novedad, pero dentro de unos años estará incorporada de forma natural en el software, los teléfonos, los vehículos y los sistemas empresariales.

La diferencia ya no estará entre quienes utilizan IA y quienes no.

Estará entre quienes sepan integrarla con buenos datos, seguridad, procesos sólidos y supervisión humana y quienes simplemente hayan añadido inteligencia artificial sin comprender realmente para qué la necesitan.

Estos próximos años son especialmente importantes porque estamos definiendo ahora cómo queremos convivir con una tecnología que probablemente condicionará buena parte de nuestra economía y nuestra sociedad.

La visión tecnológica de XTechAI

XTechAI integra bajo una misma estructura distintas áreas tecnológicas que cada vez están más relacionadas entre sí: inteligencia artificial, consultoría informática, desarrollo de software, aplicaciones y automatización.

El objetivo no es añadir inteligencia artificial a todos los procesos, sino identificar aquellos casos donde realmente puede mejorar productividad, capacidad de análisis o calidad del servicio manteniendo mecanismos adecuados de seguridad y supervisión.