Un mensaje que parece venir de un funcionario o de un banco pide una transferencia urgente, y el móvil avisa antes de que el usuario pulse enviar. Esa es la propuesta de un nuevo modelo de inteligencia artificial que Google DeepMind ha desarrollado junto al Gobierno de Singapur para detectar estafas sin acceder al contenido de las conversaciones.
El proyecto cobra relevancia en un momento en que las estafas digitales, especialmente las basadas en ingeniería social, se han convertido en una de las principales preocupaciones de seguridad en varios países. La propuesta busca anticiparse al fraude sin comprometer la privacidad de los usuarios, un equilibrio que hasta ahora resultaba difícil de alcanzar.
Un problema que crece en Singapur
El sistema fue presentado durante la Semana Internacional de Ciberseguridad de Singapur (SICW 2026), fruto de la colaboración entre Google DeepMind y GovTech Singapore, la agencia tecnológica del Gobierno del país asiático. Por el momento se trata de un anuncio conjunto: la integración en aplicaciones será progresiva y todavía no tiene fecha confirmada.
Según datos de Google DeepMind, las estafas —que incluyen fraudes de inversión, falsas ofertas de empleo y suplantación de funcionarios— representan más de la mitad de los delitos denunciados en Singapur. Desde 2019, las pérdidas acumuladas superan los 4.000 millones de dólares singapurenses.
La naturaleza del fraude también ha cambiado. Los atacantes ya no se limitan a enlaces maliciosos fáciles de bloquear, sino que recurren a conversaciones largas y elaboradas que preparan a la víctima antes de pedirle dinero. Este tipo de engaño, de acuerdo con la compañía, concentra hasta el 80 % de las pérdidas totales.
Gemma, entrenado con casos de estafa locales
El modelo utilizado como base es Gemma, la versión ligera de inteligencia artificial de Google. Los equipos técnicos lo ajustaron con conversaciones de estafa reales del contexto singapurense: suplantaciones de instituciones públicas, entidades bancarias y figuras conocidas del país, además de los esquemas de fraude más habituales en la región.
Google DeepMind explica en su blog que los modelos genéricos suelen fallar al identificar tácticas de engaño adaptadas a contextos locales. Por eso, el entrenamiento específico busca que el sistema distinga entre una conversación social inofensiva y un intento real de manipulación cuando opere dentro de aplicaciones de uso cotidiano.
Cómo actúa el sistema en la práctica
Un ejemplo citado por la compañía ilustra el funcionamiento: una persona recibe mensajes de alguien que dice representar a un organismo oficial, con un tono cordial que va aumentando la presión para transferir dinero a una cuenta supuestamente segura. El modelo analiza el patrón de la conversación y, si detecta señales de manipulación, muestra una advertencia que recomienda detenerse antes de compartir datos o fondos.
Dos fases de análisis para cuidar la batería
Ejecutar un sistema de detección complejo en un teléfono implica un desafío técnico, y el consumo de batería es uno de los puntos críticos señalados por los autores del proyecto, JJ Geewax y Miguel de Andrés. Para resolverlo, el sistema trabaja en dos etapas.
En la primera fase, un clasificador ligero revisa los mensajes entrantes con un gasto energético mínimo, en busca de posibles amenazas. Solo cuando detecta algo sospechoso entra en acción la segunda fase, en la que el modelo Gemma ajustado examina una porción mayor de la conversación para confirmar si realmente existe un intento de fraude o si se trata de una falsa alarma.
Este diseño en cascada implica que el modelo más pesado únicamente se activa ante indicios reales de riesgo, por lo que la mayoría de las conversaciones cotidianas no requieren ese nivel de análisis.
Qué datos puede ver Google y qué no
A diferencia de los sistemas tradicionales de detección, que escanean mensajes en servidores externos, este modelo procesa la información directamente en el dispositivo del usuario. Según Google DeepMind, al funcionar por completo de forma local, ni el Gobierno de Singapur ni la propia compañía pueden acceder a las conversaciones a través de este despliegue.
El acceso del modelo a los chats, además, depende del consentimiento explícito del usuario, conforme a los términos de uso de cada aplicación. Mark Chen, director de Confianza y Seguridad de GovTech Singapore, resumió la filosofía del proyecto señalando que combatir las estafas no debería implicar sacrificar la privacidad personal.
Google DeepMind presenta esta arquitectura como un posible modelo de referencia para plataformas de mensajería que buscan proteger a sus usuarios sin renunciar al cifrado de extremo a extremo.
Entrenamiento aislado y sin datos personales
El ajuste del modelo se realizó dentro de un entorno de Google Cloud gestionado por GovTech Singapore, lo que permitió mantener aislados los datos utilizados durante el entrenamiento. Según la información difundida, el proceso excluyó cualquier dato privado o identificable de ciudadanos.
En su lugar, se emplearon conjuntos de datos anonimizados procedentes de denuncias de estafas y fuentes de inteligencia especializadas. Posteriormente, el modelo fue sometido a pruebas con diálogos sintéticos y corpus locales para cubrir distintas categorías de fraude y tácticas de suplantación.
Un aspecto que todavía no se ha aclarado es el rendimiento real del sistema una vez en funcionamiento. La fase de despliegue se desarrollará junto al Gobierno singapurense por etapas, y datos clave como la tasa de falsas alarmas aún no han sido publicados.
Lecciones aplicables más allá de Singapur
Aunque la prueba piloto se centra en Singapur, el planteamiento deja algunas recomendaciones útiles para cualquier usuario preocupado por este tipo de fraudes.
Conviene desconfiar de la presión sostenida en una conversación. Los datos citados por la compañía indican que la mayor parte de las pérdidas económicas proviene de interacciones persuasivas y prolongadas, no de enlaces aislados. Si alguien insiste en una charla larga para que se mueva dinero, lo recomendable es detenerse y verificar la información por otro canal.
También es importante revisar los permisos otorgados a las aplicaciones de mensajería. El acceso de cualquier modelo de este tipo a las conversaciones depende del consentimiento del usuario, según los términos de cada app. Si en el futuro una aplicación ofrece análisis de conversaciones en el dispositivo, vale la pena comprobar qué datos utiliza y dónde se procesan.
Distinguir entre procesamiento local y procesamiento en la nube es clave para entender el nivel real de privacidad que ofrece cada herramienta. Que el análisis ocurra en el propio móvil es, según los responsables del proyecto, lo que impide que terceros accedan al contenido de los mensajes.
Qué puede significar este anuncio a futuro
Por ahora, quienes residan en Singapur podrán beneficiarse de esta protección únicamente cuando las aplicaciones integren el modelo, y su activación dependerá del consentimiento de cada usuario. Fuera del país, la situación no cambia de momento, aunque Google DeepMind ha señalado que evalúa llevar tecnología similar a otros mercados.
Si en algún momento una aplicación de mensajería incorpora un sistema equivalente, el usuario recibiría una advertencia antes de enviar dinero o datos sensibles, sin que la conversación salga del propio teléfono. Hasta que eso ocurra, la recomendación de seguridad sigue siendo la misma: verificar por otra vía cualquier solicitud de dinero, sin importar quién parezca estar detrás del mensaje.
Preguntas frecuentes
¿Qué es el modelo de IA creado por Google DeepMind y Singapur?
Es un sistema basado en Gemma, el modelo ligero de Google, ajustado para detectar conversaciones de estafa y procesado íntegramente en el dispositivo del usuario.
¿El modelo lee los mensajes de los usuarios?
Según Google DeepMind, el análisis se realiza de forma local en el teléfono, por lo que ni la compañía ni el Gobierno de Singapur pueden acceder al contenido de las conversaciones a través de este sistema.
¿Cuándo estará disponible esta tecnología?
El despliegue se hará de forma gradual en aplicaciones y todavía no tiene una fecha definida. Por ahora se trata de un anuncio conjunto entre Google DeepMind y GovTech Singapore.
¿Por qué se desarrolló este proyecto en Singapur?
Porque las estafas representan más de la mitad de los delitos denunciados en el país, con pérdidas acumuladas superiores a 4.000 millones de dólares singapurenses desde 2019.
¿Necesita el usuario dar permiso para que el modelo analice sus chats?
Sí. El acceso del modelo a las conversaciones depende del consentimiento del usuario, conforme a los términos de uso de cada aplicación.
¿Llegará esta tecnología a otros países además de Singapur?
Google DeepMind ha indicado que estudia la posibilidad de extender tecnología similar a otros mercados, aunque no hay planes confirmados por ahora.
Samuel Gil es especialista en infraestructura tecnológica, administración de servidores y desarrollo de servicios digitales. Con una sólida trayectoria en entornos web de alta exigencia, optimización de servidores y gestión de arquitecturas de red, Samuel dedica su labor en faq-box.com a desglosar cuestiones técnicas complejas para convertirlas en guías prácticas, transparentes y de alto valor técnico.
Su enfoque editorial prioriza el rigor, la seguridad en los sistemas y la resolución eficiente de problemas técnicos cotidianos y avanzados. A través de sus análisis, busca ofrecer respuestas directas y contrastadas para profesionales y entusiastas del sector tecnológico.
Cuenta con una sólida formación en el área tecnológica, destacando su especialización a través del Máster en Inteligencia Artificial Aplicada a la Gestión Empresarial y el MBA in Digital Transformation & Artificial Intelligence de ISEEN.EU, lo que aporta un rigor técnico avanzado a cada análisis de desarrollo y arquitectura digital.
