Cada día el uso de AI está más presente en nuestras vidas, desde una herramienta de trabajo, hasta un amigo virtual, cada día más estamos haciendo la inteligencia Artificial parte de nuestras vidas, implementando las nuevas herramientas que van revolucionando el mercado y encontrando nuevas maneras de facilitarnos la vida.
AI Companions es una nueva modalidad que fue creada con el fin de ser un apoyo, un terapeuta, alguien con quien pudieras tener una conversación fluida o incluso una simulación de un amigo virtual, estos se perciben como un inocente programa que solo buscas por ayuda, diversión o curiosidad.
Sin embargo, estas tecnologías estan siendo utilizada para ser vectores potenciales de recolección de información de una forma creativa, comprometiendo los datos y utilizando la información suministrada, a través de la interacción constante, pueden incentivar la entrega de información que, aunque inicialmente parezca irrelevante puede ser utilizada para construir perfiles externos. Esta información, en determinados contextos, podría ser explotada por actores maliciosos para desarrollar ataques más dirigidos.
Estos usan un leguaje de aprendizaje automático, donde la misma IA aprender de manera autónoma, qué decir, cuando decirlo, aprende a identificar sentimientos a través de mensajes, aprende a ser más eficiente, a realizar las tareas que se le asigna de manera más rápida y mejorada, mientras va teniendo contacto con diferentes personas, parecido a la famosa app de música Spotify, la cual usa una IA autónoma para las recomendaciones que nos hace.
La forma en que operan los AI Companions está estrechamente relacionada con la interacción social y la generación de confianza. Están diseñados para ser accesibles, empáticos y persistentes, lo que puede llevar a los usuarios a compartir información personal, laboral o incluso financiera. Este contexto puede incrementar la superficie de ataque en escenarios donde se busque recopilar información para fines como:
• Chantajes
• suplantación de identidad
• Ingeniería Social
• Ets.
Una de las acciones más comunes que realizamos como usuarios es aceptar los “términos y condiciones” sin revisarlos detenidamente. Esto puede llevar a desconocer qué tipo de acceso estamos otorgando a las aplicaciones o servicios que utilizamos.
Las aplicaciones pueden solicitar acceso a recursos como micrófono, contactos, archivos, ubicación o cámara. Si el usuario los aprueba, la aplicación puede hacer uso de estos datos dentro de los límites establecidos. Dependiendo de la política del servicio, algunas plataformas pueden almacenar conversaciones, utilizar datos para mejorar sus modelos o compartir cierta información con terceros. Por esto, es importante comprender qué se está aceptando.
Uno de los mayores riesgos no proviene directamente de la IA, sino del entorno en el que se utiliza. Factores como malware, phishing, robo de credenciales o extensiones maliciosas pueden comprometer la seguridad del usuario.
Este conjunto de factores configura un entorno donde la privacidad, la seguridad y la integridad de los usuarios pueden verse comprometidas si no se toman las medidas adecuadas. Por ello, la ciberseguridad se vuelve un elemento fundamental en el uso de estas tecnologías.
Algunas soluciones procesan la información en la nube, otras almacenan historiales de interacción, y algunas aplican procesos de anonimización, aunque no siempre de forma completa.
En este contexto, se han detectado credenciales asociadas a usuarios de herramientas de IA en la dark web. Sin embargo, en la mayoría de los casos, estas exposiciones han sido consecuencia de infecciones por malware tipo infostealer en dispositivos de los usuarios, y no de un acceso directo o una brecha en las plataformas de IA.
Es por eso por lo que la seguridad cibernética en estos días es muy importante, es imprescindible desarrollar técnicas de cuidado y protección que nos permitan seguir sacándole provecho a estas herramientas, pero de forma segura, asegurarse de tener Soluciones de Backup, en caso de filtraciones de datos, otro punto que es imprescindible si eres una persona que navega usualmente por la web o estas en constante uso de la tecnología, son las Herramientas de Ciberseguridad que protejan los vectores de ataques tales como email, red, web, usuario final etc.
.png)
