EUROPOL: Usos maliciosos y abusos de la inteligencia artificial

La aparición de nuevas tecnologías está dando forma al mundo en una gama cada vez mayor de sectores. Aunque hay muchas formas de definir estas tecnologías y sus distintas funciones, es posible resumirlas brevemente1, 2, 3. La inteligencia artificial, (IA) en particular, es ubicua en
sus aplicaciones y es muy prometedor para abordar una serie de desafíos globales complejos. Al capitalizar las cantidades de datos sin precedentes, la inteligencia artificial ha mostrado potencial desde recomendaciones de navegación y contenido para detectar el cáncer con mayor precisión que los radiólogos humanos.

La IA es un subcampo de la informática (con muchas relaciones cruzadas con otras disciplinas) dedicado a la teoría y el desarrollo de sistemas informáticos que pueden realizar tareas que normalmente requieren inteligencia humana, como percepción visual, reconocimiento de voz, traducción entre idiomas, toma de decisiones, y resolución de problemas. El aprendizaje automático (ML), en sí mismo un subcampo de la IA, consiste en algoritmos que utilizan técnicas estadísticas para dar a los sistemas informáticos la capacidad de “aprender” de los datos, es decir, mejorar progresivamente el rendimiento en una tarea específica. En comparación con otros programas informáticos, los algoritmos ML no requieren instrucciones explícitas de los humanos, sino que extraen patrones y aprenden reglas implícitas a partir de un número considerable de ejemplos.

Si bien los algoritmos de IA y ML pueden brindar enormes beneficios a la sociedad, estas tecnologías también pueden permitir una variedad de amenazas digitales, físicas y políticas. Así como la World Wide Web puso en primer plano una plétora de nuevos tipos de delitos y facilitó una gama de otros más no tradicionales, la IA está preparada para hacer lo mismo4, 5. En el cambio continuo de lo analógico a lo digital, el potencial por el uso malintencionado de las nuevas tecnologías también se expone.

Por lo tanto, si bien este informe analiza el estado actual de las tecnologías de IA y ML, también busca predecir las posibles formas en que los delincuentes explotarán estas tecnologías en el futuro, una tarea que, aunque aparentemente desalentadora, es primordial para la industria y la ley de la ciberseguridad. cumplimiento para emprender el desafío interminable de estar siempre un paso por delante de los criminales.
.
Para el informe completo (English, PDF) Presione aquí
.
Por Vincenzo Ciancaglini, Craig Gibson y David Sancho

Recent Posts