Las empresas siguen anunciando proyectos de inteligencia artificial con cifras ambiciosas, pero una parte sustancial de esas iniciativas nunca llega a producir un resultado visible. La discusión suele centrarse en la tecnología elegida o en la calidad del modelo. Sebastian Brickel, asesor en gobernanza de IA, apunta a otro lugar: la estructura interna de poder que decide, sin decirlo abiertamente, qué proyectos siguen vivos y cuáles se apagan.
Brickel es AI Governance Advisor en The Remote Consultant. Antes de dedicarse a la gobernanza corporativa de la inteligencia artificial, trabajó en química computacional, campo en el que realizó un doctorado centrado en la simulación del comportamiento de moléculas. Esa formación científica, dice, le ha dado una mirada distinta a la del consultor de negocio habitual: menos atención al discurso corporativo y más a lo que realmente ocurre dentro de una organización cuando se introduce una herramienta de IA.
El momento en que muere un proyecto de IA
Según Brickel, la mayoría de las iniciativas de inteligencia artificial no fracasan por limitaciones del modelo, sino por falta de respaldo interno. Y el modo en que mueren depende de quién las impulsó.
Los proyectos desarrollados internamente, sin un socio externo, rara vez tienen un final claro: simplemente dejan de recibir recursos hasta apagarse. Los proyectos con un patrocinador interno fuerte, en cambio, tienden a sobrevivir mucho más allá del alcance inicial del piloto, sostenidos por la lógica del coste ya invertido. Nadie los declara oficialmente terminados.
«El momento rara vez es técnico. Es política interna», resume Brickel.
Los únicos proyectos que terminan de forma visible, explica, son aquellos que desde el principio contaban con un apoyo interno débil: antes o después, alguien con autoridad decide cortarlos.
Qué examina realmente una auditoría de gobernanza de IA
Para Brickel, una auditoría de IA no analiza en primer lugar un sistema, sino los hábitos de toda una organización. El primer paso consiste en mapear todos los usos de inteligencia artificial existentes en la empresa, separándolos entre usos regulados y no regulados. El siguiente paso es identificar a la persona responsable de cada sistema.
Brickel insiste en que la IA «es una máquina de razonar, no un agente moral» y que, por tanto, no puede asumir en solitario la autoridad para decidir. Cada sistema necesita, según él, una persona concreta que responda por él, no un comité ni un cargo júnior que firma sin margen real de decisión.
La IA que entra sin permiso
Buena parte de lo que se usa a diario en las empresas, señala Brickel, nunca ha pasado una revisión formal. Un equipo adopta una herramienta porque le resulta útil, sin pedir autorización, siguiendo el patrón habitual de lo que se conoce como shadow IT.
Hay un matiz adicional que, según Brickel, se suele pasar por alto: la inteligencia artificial que ya viene integrada en programas SaaS contratados para otra finalidad y que realiza tareas de IA sin que nadie lo haya señalado expresamente. Esa capa oculta es, para él, la que hace más difícil cualquier intento posterior de regular el uso real de la tecnología.
La señal de alarma en un directivo
Brickel identifica un patrón que, según su experiencia asesorando a equipos directivos, anticipa problemas: esperar resultados demasiado ambiciosos, demasiado rápido y con muy poco presupuesto. Cuanto más entusiasmo manifiesta una persona con la tecnología, más probable es que el proyecto tenga dificultades, apunta.
Para Brickel, la IA pertenece a la misma categoría que la automatización, y en muchos flujos de trabajo la automatización determinista basada en reglas sigue siendo la respuesta correcta. La frase «ponme IA en todo» es, en su opinión, el mejor indicador de que un proyecto va a torcerse. La secuencia que recomienda es distinta: analizar el flujo de trabajo, optimizarlo, automatizar lo que pueda automatizarse y solo después incorporar inteligencia artificial donde aporte algo que la automatización no pueda ofrecer.
Qué produce realmente el Reglamento europeo de IA
Sobre el Reglamento europeo de IA (EU AI Act), Brickel ofrece una lectura poco habitual. A su juicio, la norma solo mejora realmente los sistemas en las empresas que ya tenían intención de hacer bien el trabajo y usan el plazo regulatorio como palanca interna. En el resto de los casos, sostiene, el resultado es un sistema con apariencia de cumplimiento, que conserva los mismos problemas de fondo, ahora simplemente documentados.
Brickel recuerda que las normativas suelen anunciarse con mucha antelación, pero que la mayoría de las empresas esperan a que se acerque el plazo para actuar, lo que genera documentación de última hora pensada para satisfacer a un auditor y no para cambiar cómo se construye o se supervisa un sistema.
Para respaldar esa idea, cita un análisis de appliedAI de 2023 sobre más de cien sistemas de IA empresariales, que concluyó que 40 de ellos no podían clasificarse con claridad en los niveles de riesgo previstos por la normativa, un dato que, según Brickel, refleja el verdadero nivel de preparación de muchas organizaciones.
Sistemas de alto riesgo: una excepción importante
Brickel matiza que, en los sistemas clasificados como de alto riesgo bajo la normativa europea, el propio sistema también tiene obligaciones directas: evaluación de conformidad, documentación y supervisión humana, no solo el control de los datos que lo alimentan.
En el resto de los casos, defiende que lo decisivo no es tanto la conformidad del modelo en sí como la del pipeline de datos que lo alimenta. Una alternativa práctica frente a construir un modelo propio plenamente conforme, señala, es gobernar ese flujo de datos: alimentar el modelo con información anonimizada y tratada correctamente. Si el pipeline está mal diseñado, advierte, ninguna calidad del modelo puede compensarlo.
Cuando un fracaso se rebautiza como piloto
Brickel observa que las empresas rara vez admiten abiertamente que un proyecto de IA ha fracasado. Lo habitual, dice, es rebautizarlo discretamente como «piloto» o «prueba de concepto».
En su experiencia, el fracaso rara vez se debe a un problema tecnológico: es, sobre todo, un fallo de gestión del cambio, algo que se repite tanto en proyectos baratos como en los más costosos. Compara la situación con la de un CRM o un ERP nuevo que nadie termina usando de verdad. El resultado, señala, suele resumirse después como «probamos la IA», en lugar de admitir que «no logramos que la gente la usara».
Una mirada distinta desde la ciencia
Brickel atribuye parte de su enfoque a su formación científica. Haber trabajado con aprendizaje automático antes de que se convirtiera en una palabra de moda, dice, le dio una base técnica sobre cómo llegó la inteligencia artificial a su estado actual. Estudiar el comportamiento del mundo natural, añade, enseña que algunas reglas se cumplen con independencia de la moda o de la política interna de una organización, una perspectiva distinta de la que se forma únicamente dentro de la carrera corporativa.
Preguntas frecuentes
¿Quién es Sebastian Brickel?
Es AI Governance Advisor en The Remote Consultant. Llegó a la gobernanza de la inteligencia artificial desde la química computacional, campo en el que realizó un doctorado dedicado a la simulación del comportamiento de moléculas.
¿Por qué fracasan los proyectos de IA según Brickel?
Sostiene que la mayoría fracasa por falta de respaldo interno y de gestión del cambio, no por limitaciones técnicas del modelo. El respaldo político dentro de la organización, dice, determina si un proyecto sobrevive más allá de su piloto o se apaga sin ruido.
¿Qué dice sobre el Reglamento europeo de IA (EU AI Act)?
Considera que la norma solo produce sistemas realmente mejores en las empresas que ya tenían intención de hacer bien el trabajo. En el resto, afirma, genera sistemas de apariencia conforme que mantienen los mismos problemas de fondo, ahora documentados.
¿Qué es la IA que entra sin autorización en una empresa?
Brickel se refiere a dos fenómenos: herramientas de IA adoptadas por equipos sin pasar por una revisión formal, y la inteligencia artificial ya integrada en programas SaaS contratados para otra finalidad, que realiza funciones de IA sin que nadie lo haya señalado expresamente.
¿Qué señal detecta Brickel en un directivo que anticipa problemas en un proyecto de IA?
La expectativa de resultados demasiado ambiciosos, en poco tiempo y con presupuesto muy reducido. Para él, el entusiasmo excesivo con la tecnología suele ir acompañado de más dificultades en el proyecto.
¿Qué reveló el análisis de appliedAI de 2023 que cita Brickel?
Según ese análisis sobre más de cien sistemas de IA empresariales, 40 de ellos no podían clasificarse con claridad en los niveles de riesgo previstos por la normativa, lo que para Brickel refleja el nivel real de preparación de muchas organizaciones.
Samuel Gil es especialista en infraestructura tecnológica, administración de servidores y desarrollo de servicios digitales. Con una sólida trayectoria en entornos web de alta exigencia, optimización de servidores y gestión de arquitecturas de red, Samuel dedica su labor en faq-box.com a desglosar cuestiones técnicas complejas para convertirlas en guías prácticas, transparentes y de alto valor técnico.
Su enfoque editorial prioriza el rigor, la seguridad en los sistemas y la resolución eficiente de problemas técnicos cotidianos y avanzados. A través de sus análisis, busca ofrecer respuestas directas y contrastadas para profesionales y entusiastas del sector tecnológico.
Cuenta con una sólida formación en el área tecnológica, destacando su especialización a través del Máster en Inteligencia Artificial Aplicada a la Gestión Empresarial y el MBA in Digital Transformation & Artificial Intelligence de ISEEN.EU, lo que aporta un rigor técnico avanzado a cada análisis de desarrollo y arquitectura digital.
