EL VÓRTICE

Así como pueden ayudar con la investigación médica, las IAs pueden ayudar con el bioterrorismo.

En los asuntos de seguridad, el progreso tecnológico es tanto un problema como es un beneficio. Por ejemplo, el acceso a drones baratos permite que países con poco poder pongan en peligro la integridad de activos muy valiosos como barcos y tanques con entrenamiento y recursos mínimos. En el mismo sentido, la accesibilidad del genoma humano, los kits para la edición genética o la edición de proteínas disminuyen la dificultad de la creación de armas biológicas. El riesgo de que una IA asista en este proceso es bien conocido por sus fabricantes, quienes desde el año pasado incluyen mecanismo de seguridad para prevenir su uso, y por think tanks como la Corporación RAND, que ya ha probado que es posible usar un chatbot para asistir en el ensamblaje de un virus. Esto no es muy sorprendente, considerando que una IA puede perfectamente asistir en la creación de un virus informático, sobre todo si la persona que usa la IA puede disponer con relativa facilidad de las herramientas para seguir el procedimiento que la IA indica en el mundo físico. Por ejemplo, en una medición del examen de Capacidades Virológicas, que mide la aptitud experimental de un virólogo, los profesionales obtuvieron una calificación de 22%, los novatos asistidos con IA, una de 26%, y las IAs trabajando por su cuenta, de 60%. Es decir, una IA tiene, más o menos, la misma aptitud para fabricar un virus que algunos de los mejores expertos del mundo, según este estudio. En otra prueba, resultó que la IA no era capaz de asistir a una persona novata en la creación de un virus, porque daba respuestas que sólo eran el facsímil de una respuesta correcta. Es decir, que el ya bien conocido problema de la alucinación de los bots de IA se hizo presente. ¿Por qué, entonces, resultaron tan aptas las IAs en el otro test? Probablemente porque fueron entrenadas con datos sobre el test y sus respuestas, lo cual indicaría una omisión en los protocolos de seguridad de las compañías que las crearon. La falibilidad de las IAs es tan grande que, en algunos experimentos, empeoran el trabajo de sus usuarios, aunque estos sean doctores en virología. Es difícil medir exactamente qué tan capaces son estos modelos para crear armas biológicas. Por lo pronto, sabemos que son capaces de crear virus y bacterias, pero eso no es lo mismo que un arma biológica. Para investigarlo se requeriría un experimento, pero la Convención de Armas Biológicas prohíbe sintetizar los componentes de un posible patógeno, por lo que no sabemos realmente si las sugerencias de las IAs son factibles.