La Inteligencia Artificial es el futuro de la ciberseguridad

0
443

En un futuro próximo, a medida que los sistemas de inteligencia artificial (AI) se vuelvan más capaces, comenzaremos a ver ataques de ingeniería social cada vez más automatizados y cada vez más sofisticados. Se espera que el aumento de los ciberataques habilitados para la IA cause una explosión de penetraciones en la red, robo de datos personales y propagación de virus informáticos inteligentes a nivel epidémico.

Irónicamente, nuestra mejor esperanza para defenderse contra la piratería informática habilitada por la IA es mediante el uso de la IA. Pero esto es muy probable que conduzca a una carrera armamentista de IA, cuyas consecuencias pueden ser muy preocupantes en el largo plazo, especialmente cuando los grandes actores del gobierno se unan a las guerras cibernéticas.

Mi investigación está en la intersección de la IA y la ciberseguridad. En particular, estoy investigando cómo podemos proteger los sistemas de IA de los malos actores, así como cómo podemos proteger a las personas de IA fallida o malévola. Este trabajo se enmarca dentro de un marco más amplio de la seguridad de la IA, los intentos de crear IA que sea sumamente competente, pero también segura y beneficiosa.

Mucho se ha escrito acerca de los problemas que podrían surgir con la llegada de la “verdadera IA”, ya sea como un impacto directo de tales invenciones o debido al error de un programador. Sin embargo, la malicia intencional en el diseño y la piratería informática no se han abordado en un grado suficiente en la literatura científica. Es justo decir que cuando se trata de los peligros de una inteligencia poco ético a propósito, todo es posible. Según la tesis de ortogonalidad de Bostrom, un sistema de IA puede potencialmente tener cualquier combinación de inteligencia y objetivos. Tales metas pueden ser introducidas ya sea a través del diseño inicial o mediante piratería, o introducidas más tarde, en el caso de un software comercial – “simplemente añada sus propias metas”.

En consecuencia, dependiendo de quién haga el sistema (gobiernos, corporaciones, sociópatas, dictadores, complejos industriales militares, terroristas, etc.), se puede intentar infligir un daño que no tiene precedentes en la historia de la humanidad – o quizá esté inspirado por acontecimientos anteriores .

Incluso hoy en día, la IA puede utilizarse para defender y atacar la infraestructura cibernética, así como para aumentar la superficie de ataque a la que los hackers puedan elegir como objetivo, es decir, el número de formas en que los hackers pueden entrar en un sistema. En el futuro, a medida que aumenten las capacidades de IA, anticipo que primero alcanzarán y luego sobrepasarán a los humanos en todos los dominios de rendimiento, como ya hemos visto en juegos como el ajedrez y Go y ahora estamos viendo importantes tareas humanas como inversión y conducción. Es importante que los líderes empresariales entiendan cómo esa situación futura diferirá de nuestras preocupaciones actuales y qué hacer al respecto.

Si uno de los sistemas de ciberseguridad actuales falla, el daño puede ser desagradable, pero es tolerable en la mayoría de los casos: Alguien pierde dinero o privacidad. Pero para la IA de nivel humano (o superior), las consecuencias podrían ser catastróficas. Un solo fallo de un sistema de inteligencia artificial superinteligente (SAI) podría causar un evento de riesgo existencial – un evento que tiene el potencial de dañar el bienestar humano a escala global. Los riesgos son reales, como lo demuestra el hecho de que algunas de las mentes más grandes del mundo en tecnología y física, incluyendo Stephen Hawking, Bill Gates y Elon Musk, han expresado su preocupación por el potencial de la IA para evolucionar hasta un punto en el que los humanos no podrían controlarla más.

Cuando uno de los sistemas de ciberseguridad de hoy en día falla, típicamente tiene otra oportunidad de hacerlo bien, o al menos hacerlo mejor la próxima vez. Pero con un sistema de seguridad SAI, el fracaso o el éxito es una situación binaria: O bien tiene una SAI segura y controlada o no. El objetivo de la ciberseguridad en general es reducir el número de ataques con éxito en un sistema; El objetivo de la seguridad de la SAI, en cambio, es asegurarse de que ningún ataque tenga éxito en eludir los mecanismos de seguridad en su lugar. El aumento de las interfaces cerebro-computadora, en particular, creará un objetivo ideal para los hackers humanos y habilitados por la IA. Y las interfaces cerebro-computadora no son tan futuristas, ya están siendo usadas en dispositivos médicos y juegos, por ejemplo. Si tienen éxito, los ataques a las interfaces cerebro-computadora comprometerían no sólo la información crítica, como los números de seguridad social o números de cuentas bancarias, sino también nuestros sueños, preferencias y secretos más profundos. Existe el potencial de crear nuevos peligros sin precedentes para la privacidad personal, la libertad de expresión, la igualdad de oportunidades y cualquier número de derechos humanos.

Se aconseja a los líderes empresariales que se familiaricen con la vanguardia de la investigación sobre seguridad y protección de IA, que en este momento es tristemente similar al estado de la ciberseguridad en los años noventa y nuestra situación actual con la falta de seguridad para Internet. Armados con más conocimiento, los líderes pueden racionalmente considerar cómo la adición de IA a su producto o servicio mejorará las experiencias de los usuarios, mientras sopesan los costos de someter potencialmente a los usuarios a brechas de datos adicionales y posibles peligros. La contratación de un experto en seguridad de IA puede ser un paso importante, ya que la mayoría de los expertos en seguridad cibernética no están capacitados para anticipar o prevenir ataques contra sistemas inteligentes. Tengo la esperanza de que la investigación en curso traerá soluciones adicionales para la incorporación segura de la Inteligencia Artificial en el mercado.

>

DEJA UNA RESPUESTA

¡Por Favor deje su comentario!
Por favor ingrese su nombre