La inteligencia artificial ha sido entrenada no sólo para mantener un diálogo coherente, sino también para simular el habla humana e incluso la apariencia de las personas en vídeo. En un formato inofensivo, las simulaciones basadas en algoritmos de IA sirven para el entretenimiento (piense en la función Deepfake de VK), aceleran las ventas (como Rufus de Amazon), facilitan la contratación (como Alfa Bank) y hacen muchas otras cosas útiles.
Sin embargo, las cuentas falsas basadas en inteligencia artificial en redes sociales y mensajeros son capaces de corromper las estadísticas de los públicos y los algoritmos publicitarios, por no hablar del spam que difunden. Además, los estafadores aprovechan a menudo las capacidades de la IA.
Por ejemplo, recientemente en Hong Kong, unos atacantes organizaron toda una videoconferencia utilizando deepfake. Imitaron la apariencia y la voz de varias personas y, como resultado, estafaron 25 millones de dólares a un empleado de una gran empresa, supuestamente por orden del director financiero. Todo parecía tan creíble que el empleado fue incapaz de distinguir las figuras falsas de las personas reales.
Sin embargo, aún es posible identificar la IA durante la comunicación. Aquí tienes algunos consejos sobre cómo hacerlo.
Se denomina bot social a un software especial que imita el comportamiento de un usuario real en las redes sociales. Este tipo de bots no sólo los utilizan los departamentos de SMM de las marcas para promocionar sus productos, sino también los delincuentes para difundir falsificaciones, ideas prohibidas, incitar a la agresividad en los comentarios y robar datos personales de los usuarios. Si dudas de que la cuenta que tienes delante sea real, utiliza los siguientes consejos:
1- Presta atención a la frecuencia de su actividad. Varios posts a la semana o incluso al día sobre el mismo tema, reposts constantes y falta de contenido original pueden significar que se trata de una IA.
2. Busca información personal en la página de usuario. Si no se especifica, y en lugar de una foto hay una imagen abstracta, esta es otra razón para dudar de la autenticidad de la cuenta.
3. Presta atención a las publicaciones promocionales o provocativas de distintos usuarios con el mismo contenido, por ejemplo, en las comunidades. Lo más probable es que se trate del trabajo de varias cuentas programadas.
4. Intenta comunicarte por mensajes privados. Las respuestas primitivas, las líneas contradictorias o la ausencia total de líneas indicarán que se trata de un bot. Por ejemplo, le preguntas a un nuevo conocido condicional cuántas mascotas tiene, y él responde "7" y no puede dar sus nombres. O le preguntas a tu interlocutora si tiene hermanos o hermanas, y te contesta: "No estoy segura".
Los bots sociales mencionados anteriormente también pueden ponerse en contacto con los propios usuarios en mensajes privados, comentarios y opiniones en debates públicos. He aquí cómo detectarlos:
1. Presta mucha atención al estilo. Las frases demasiado formales, las oraciones largas tecleadas rápidamente y la falta de errores y emoticonos en la comunicación informal pueden indicar que estás tratando con una IA. Dado que los robots memorizan literalmente el vocabulario de memoria -así es como aprenden a comunicarse-, es muy poco habitual que cometan errores de ortografía y puntuación, algo que no suele ocurrir con los interlocutores reales.
2. Pida a su interlocutor que comente los próximos acontecimientos. Por ejemplo, el estreno de una película, un nuevo álbum de un grupo de música, etc. El robot no tiene opinión propia y no podrá dar una respuesta adecuada. Funciona con información que ya está almacenada en su base de datos. Por ejemplo, si le preguntas: "¿Cómo crees que será la gente en 20347?". - La IA no entenderá la pregunta o, por el contrario, intentará explicarlo todo con demasiada seriedad para una situación así.
3. Inventa un chiste sofisticado. Algunos robots pueden soportar el humor primitivo e incluso imitarlo, pero el sarcasmo o los juegos de palabras les resultarán incomprensibles. En la actualidad, esto sólo está al alcance de los modelos más avanzados. Incluso una frase como "Eres mi conejito, qué omnisciente eres..." utilizada en un contexto claramente negativo puede hacer pensar a un bot que le estás haciendo un cumplido, y se delatará.
Sin embargo, los chistes "de creación propia de la IA" no siempre consisten en tonterías. ChatGPT, por ejemplo, cuando se le pidió que contara un chiste sobre un gato, produjo lo siguiente: "¿Por qué los gatos nos miran por encima del hombro? Porque saben que en sus suaves patas reside el poder sobre nuestros corazones, así como en el pelaje de nuestras ropas oscuras". En la actuación del robot, esto resulta en cierto modo incluso alarmante.
4. Escriba una frase con errores evidentes, inserte números y signos de puntuación en las palabras. Esto evitará que el bot perciba el texto. Por ejemplo, la frase "P73vet. Do you m!nya p?" ("Hola. ¿Me entiendes?") un humano la reconocerá por la disposición familiar de las letras, mientras que el bot la ignorará o volverá a preguntar. También puedes hablar en inglés o en otro idioma: muchos bots sólo hablan ruso (pero no todos), así que suelen llamar a un humano para que traduzca.
Por cierto, hay un interesante juego interactivo en Internet llamado "Humano o no", en el que puedes practicar la comunicación con la IA y distinguirla de un interlocutor real. Según las reglas, tienes que chatear durante dos minutos con una persona anónima y adivinar si se trata de un bot o de otro participante en el juego. Se trata de una versión moderna del Test de Turing, cuyo objetivo original es saber si una máquina puede engañar a un humano.
La IA generativa imita con éxito la voz humana. La gama, el timbre y las emociones son muy difíciles de distinguir de la real. Las aplicaciones de voz -por ejemplo, en tiendas online o servicios de asistencia- son utilizadas a menudo por grandes empresas, ya que les ayuda a ahorrar mucho tiempo del personal. La forma de hablar de estos bots es bastante creíble, pero al mismo tiempo puede que no resuelvan el problema del cliente. He aquí cómo reconocer un bot:
1. fíjate en la ausencia de pausas entre líneas: deberían alertarte. La inteligencia artificial procesa la información varias veces más rápido que los humanos y, en consecuencia, la comunica con mayor celeridad.
Algunos robots tienen pausas especialmente diseñadas para imitar la velocidad de una respuesta humana. Pero durante ese tiempo, a diferencia de los interlocutores reales, no alargan las palabras ni utilizan interjecciones ("Ouch", "Wow") e imitaciones ("E-e-e-e-e", "M-m-m-m").
2. Cambie repentinamente el tema de conversación: pregunte por el estatus social, el lugar de estudio o las mascotas del interlocutor. Las respuestas contradictorias, como en el ejemplo anterior sobre los mensajeros, revelarán inmediatamente la existencia de un bot.
3. Cuando se ponga en contacto con el servicio de asistencia, describa el problema con el mayor detalle posible. En situaciones corrientes como "no me ha gustado la calidad del servicio" o "no encuentro una respuesta en el sitio" -algo que puede resolverse o aprenderse sin intervención humana- la IA ayudará a solucionarlo más rápido y sin la cola de otros usuarios. Pero si el problema no es tan fácil de explicar, se perderá en el hilo de la narración e ignorará algunos detalles importantes sin volver a preguntar, y al hacerlo se delatará a sí misma.
La IA de voz generativa ha calado hondo en el mundo del entretenimiento, la creación de vídeos o la locución. Pero, por desgracia, los estafadores también se aprovechan de ella. Hackeando la cuenta de mensajería de un usuario, escuchan sus mensajes de audio antiguos y los utilizan para crear falsificaciones pidiendo a amigos y familiares que transfieran dinero.
Estos mensajes de audio pueden verificarse poniéndose en contacto con la persona en cuyo nombre se envían, en otro mensajero o por teléfono. En la mayoría de los casos, los piratas informáticos solo consiguen acceder a un canal de comunicación. Dado que este método de fraude es relativamente nuevo en Rusia, conviene advertir de él a los niños y a los familiares mayores.
La IA generativa es capaz de imitar no sólo la voz, sino también la apariencia de personas reales, por ejemplo, en una videollamada.
Si recibe una videollamada sospechosa y le piden que transfiera dinero o facilite datos de su tarjeta bancaria, aunque la voz y el aspecto del personaje se parezcan realmente a una persona que conoce, preste atención a las expresiones faciales y los gestos. En el caso de una falsificación, los movimientos de los labios pueden no coincidir con el discurso, las expresiones faciales pueden no coincidir con las emociones y pueden repetirse los mismos gestos o movimientos.
Prueba a hacer una pregunta que sólo pueda responder correctamente alguien que conozcas. Esta es la forma clásica y más correcta de poner a prueba cualquier duda.
