Inteligencia Artificial: Beneficios y amenazas de una tendencia que llegó para quedarse

<strong>Inteligencia Artificial: Beneficios y amenazas de una tendencia que llegó para quedarse</strong>

A estas alturas es innegable que la Inteligencia Artificial (IA) llegó para quedarse. La más famosa y probablemente la más usada en estos momentos es ChatGPT, que sigue evolucionando en sus diferentes versiones y no deja de sorprender, pero existen otros ejemplos igual o similarmente poderosos, como Bard, recientemente lanzado por Google y otros como Frase, Deep, Jasper o Ellie, solo por nombrar algunas.  

Por supuesto que la creación de estas herramientas de IA apunta al beneficio de las personas. Por ejemplo, Jasper es muy bien valorado por profesionales del marketing, ya que cuenta con funciones de corrección y comprobador de plagio. Ellie redacta respuestas de correos electrónicos, aprendiendo y adaptándose al estilo de la escritura del usuario. Así como estos ejemplos, muchas de estas estas están concebidas para hacernos la vida un poco más fácil, sea en nuestros rubros de trabajo o en nuestros hogares.

Sin embargo, mientras disfrutamos las bondades de estos avances tecnológicos, es necesario tener conciencia que las personas haciendo uso de estas no siempre pueden tener las mejores intenciones. Por esto, es importante concientizar y tomar las precauciones adecuadas, tratando de no entregar información relevante o confidencial, ya que nunca se sabe quién puede estar detrás de estas aplicaciones o si han sido vulneradas.

La Inteligencia Artificial ha hecho que los cibercriminales logren cubrir partes que, hasta hace poco tiempo, los delataban fácilmente ante un ojo medianamente entrenado. Una de las más fáciles de notar eran las faltas de ortografía. Hoy tanto este detalle como posibles vacíos en los discursos son reemplazados por las IA, por lo que es necesario analizar la totalidad de la interacción, teniendo en cuenta cada detalle, como los hipervínculos, por ejemplo.

Afortunadamente, estas herramientas pueden ser usadas en contra de los cibercriminales, como una de las grandes aliadas para la ciberseguridad. Sophos, líder mundial e innovación y entrega de ciberseguridad como servicio, probó este uso a través de tres métodos experimentales, todos con excelentes resultados.

El primer experimento consistió en ver si la interfaz podía traducir consultas hechas en “lenguaje natural” empleado por cualquier persona, y comprenderlas como consultas de SQL, que usa tecnología de Sophos, y que actualmente requiere de un entrenamiento para poder generarla. Esta prueba logró respuestas precisas en más del 80% de los casos, mientras que en el 70,5% de las veces, al tratar preguntas que incluían datos que el modelo no había visto antes. En otro experimento, se ha probado un nuevo filtro de spam usando ChatGPT y se descubrió que, en comparación con otros modelos, el filtro de GPT-3 es significativamente más preciso y supera con creces otros métodos de Machine Learning tradicionales, cuando la cantidad de datos utilizada para el entrenamiento es pequeña. En el último ejercicio, los investigadores de Sophos han creado un programa para simplificar el proceso de ingeniería inversa de las líneas de comandos de LOLBins.

Este fenómeno de las IA está recién empezando a dar sus primeros pasos. Es de esperar que en poco tiempo sus usos de hayan expandido prácticamente a todos los ámbitos y rubros laborales, así como cada vez vayan ganando más espacio en los hogares y vida diaria de las personas. Solo queda observar su desarrollo, siempre tomando todas las precauciones posibles.

Juan Alejandro Aguirre

Senior Manager Sales Engineering LATAM de Sophos

Categories: Software

About Author