- El estudio “Innovando el ciberespacio: La poderosa revolución de la Inteligencia Artificial en la Ciberseguridad y la Identidad Digital” de IQSEC, analiza los principales desafíos de un uso responsable de la IA.
- La escasez de habilidades especializadas, la gobernanza y la limitación de datos, la ética, la privacidad y la protección de datos, así como la regulación y la normatividad, están entre los principales retos.
La creciente adopción de herramientas de Inteligencia Artificial en diversas organizaciones ha impulsado la demanda de expertos y personal calificado, capaces de implementarlas y asegurarlas, ya que junto a los beneficios de la IA surgen el mismo número de riesgos que deben ser abordados, antes de integrar estas tecnologías a los entornos laborales.
Los principales desafíos incluyen el aumento de la complejidad de las amenazas, herramientas de desinformación, escasez de habilidades especializadas, cooperación entre humanos y sistemas automatizados, gobernanza y limitación de datos, ética, privacidad y protección de datos, además de la regulación y normatividad. Así lo refiere el análisis «Innovando el ciberespacio: La poderosa revolución de la Inteligencia Artificial en la Ciberseguridad y la Identidad Digital”, realizado por IQSEC, que ofrece una perspectiva profunda sobre cómo la IA está transformando la ciberseguridad y gestionando la identidad digital.
“La IA es una tecnología que ha revolucionado al mundo, presentándose como una espada de dos filos: pues puede automatizar y facilitar tareas complicadas para una persona, pero también puede generar información o materiales para acciones maliciosas. Por ello, antes de su implementación generalizada se debe evaluar pros y contras, tomando en cuenta habilidades y conocimientos de su equipo de ciberseguridad para responder a las constantes amenazas que surgirán”, alertó Manuel Moreno, Chief Information Security Officer (CISO) de la organización mundial en Ciberseguridad e Identidad Digital.
Panorama latinoamericano
En particular, naciones como México y gran parte de América Latina enfrentan procesos lentos de conocimiento y aceptación del tema, a pesar de iniciativas del sector privado. Este rezago, agravado por la escasa discusión sobre la implementación y la regulación de la IA han propiciado un escenario donde otros actores, en su mayoría con intenciones negativas, impulsan su uso de manera perjudicial.
“Aunque México se ubica en la quinta posición del Índice Latinoamericano de Inteligencia Artificial (ILIA) en alfabetización y formación de la IA en la región, superado por Chile, Brasil, Uruguay y Argentina, nuestro país todavía tiene mucho camino por recorrer en lo referente a la alta especialización, capital humano e infraestructura, refirió el especialista en Ciberseguridad de IQSEC.
La Inteligencia Artificial, al ser una herramienta poderosa, requiere de un marco robusto que garantice no solo su efectividad, sino también su seguridad y equidad. La falta de una estrategia integral puede exponer a las organizaciones a riesgos graves, que van desde la explotación de vulnerabilidades hasta el uso indebido de datos sensibles. Por lo tanto, es crucial que políticas y prácticas de seguridad se integren de manera proactiva en el ciclo de vida de la IA, para construir un entorno digital más seguro y confiable, que permita a México alcanzar una posición destacada en la región y a nivel global.
Para un uso responsable de la IA
Ante este contexto, IQSEC sugiere considerar las siguientes recomendaciones para una ejecución responsable de la IA:
- Transparencia en los algoritmos y en el proceso de toma de decisiones para generar confianza y comprender cómo se llega a ciertas conclusiones.
- Ética y responsabilidad en el diseño, desarrollo y aplicación de la IA.
- Diversidad y representación equitativa en los conjuntos de datos para evitar sesgos.
- Privacidad y protección de datos cumpliendo las regulaciones vigentes locales e internacionales.
- Seguridad y robustez para evitar vulnerabilidades que puedan ser explotadas.
- Supervisión humana para validar y corregir decisiones.
- Concientización y capacitación sobre las amenazas cibernéticas y las mejores prácticas de seguridad, para reducir el riesgo de caer en engaños.
- Evaluación exhaustiva de proveedores para elegir soluciones de IA seguras.
- Colaboración y difusión de incidentes con la comunidad de ciberseguridad para alertar de las últimas tácticas y vulnerabilidades.
Explora los usos prácticos, desafíos y recomendaciones clave del estudio «Innovando el Ciberespacio: La Poderosa Revolución de la Inteligencia Artificial en la Ciberseguridad y la Identidad Digital» de IQSEC.
