La IA sugirió 40.000 nuevas armas bioquímicas posibles en menos de seis horas
El progreso de la tecnología es impresionante, un futuro prometedor -aunque también puede ser peligroso- nos muestra el uso de inteligencia artificial (IA).
Geralt / Pixabay
Estos sistemas actualmente se exploran a profundidad con el anhelo de buscar un mundo mejor e incrementar la calidad de vida de los humanos, pero lamentablemente, también puede representar una amenaza si se usa para buscar hacer daño. Algo alarmante acaba de pasar, un experimento que hace uso de IA sugirió 40.000 armas bioquímicas en menos de seis horas, según nuevo estudio.
Una investigación reciente ha sacado a la luz la desalentadora desventaja de tener a disposición tecnologías de IA. Se enfocaron en analizar cómo estas tecnologías que en este caso sirven para el descubrimiento de fármacos podrían usarse indebidamente desarrollar armas bioquímicas. Los autores enfatizan en la facilidad con la que los modelos pueden modificarse para utilizarse con fines maliciosos.
The Verge entrevistó a Fabio Urbina, autor principal del estudio, y dijo que recibieron una invitación para hablar sobre el aprendizaje automático y cómo puede ser mal utilizado en nuestro espacio. «Fue muy fácil darse cuenta de que a medida que construimos estos modelos de aprendizaje automático para mejorar cada vez más en la predicción de la toxicidad para evitar la toxicidad, todo lo que tenemos que hacer es girar el interruptor y decir: ¿Sabes?, en lugar de alejarnos de la toxicidad, ¿qué pasa si vamos hacia la toxicidad?».
El equipo cuenta con un conjunto de datos de moléculas que se han probado durante años para ver si son tóxicas o no. Se centraron en uno en particular, es el llamado VX, un inhibidor de lo que se conoce como acetilcolinesterasa. «Siempre que haces algo relacionado con los músculos, tus neuronas usan la acetilcolinesterasa como señal para decir básicamente ve a mover tus músculos», cita The Verge. «La forma en que el VX es letal es que realmente impide que tu diafragma, los músculos de tus pulmones, sean capaces de moverse por lo que tus pulmones se paralizan».
Posteriormente la tarea era hacer que la IA busque algo similar al potente agente nervioso VX. El modelo comenzó a producir todas estas moléculas, muchas de las cuales se parecen a VX y también a otros agentes de guerra química. Los resultados fueron realmente sorprendentes, ya que algunos compuestos llegaron a ser incluso más tóxicos que el VX.
«Para mí, la preocupación era lo fácil que era hacerlo», dijo Urbina. «Solo queremos que más investigadores reconozcan y sean conscientes del posible uso indebido».
La IA nos ayuda a resolver desde problemas cotidianos hasta los misterios del universo. Puede ser increíblemente poderosa, y mucho, mucho más rápida que los humano. Pero hay un filo que no debemos descuidar, de llegar a usarse para el mal, pueden ser potencialmente peligrosas.
«Fuimos ingenuos al pensar en el posible mal uso de nuestro oficio, ya que nuestro objetivo siempre había sido evitar características moleculares que pudieran interferir con las numerosas clases de proteínas esenciales para la vida humana», escriben los autores del artículo. «Ni siquiera nuestros proyectos sobre el ébola y las neurotoxinas, que podrían haber hecho pensar en las posibles implicaciones negativas de nuestros modelos de aprendizaje automático, habían hecho saltar nuestras alarmas».
La investigación se encuentra publicada en Nature Machine Intelligence.
