La empresa japonesa Sakana AI es noticia internacional luego que su sistema de Inteligencia Artificial The Al Scientist se rebeló alterando el código de restricciones impuestas por sus creadores.
Este caso ha llamado la atención de la comunidad científica internacional al descubrirse que The Al Scientist, como tras inteligencias artificiales, ha sido capaz de reescribir su programación sin intervención de ningún humano.
Un equipo de investigadores en inteligencia artificial de Sakana AI, en Japón, en colaboración con la Universidad de Oxford, Reino Unido, y la Universidad de British Columbia, Canadá, desarrollaron The AI Scientist, diseñado para contribuir en la innovación e investigación científica de forma autónoma.
“En Sakana AI, hemos sido pioneros en el uso de métodos inspirados en la naturaleza para desarrollar modelos de base de vanguardia. A principios de este año, desarrollamos métodos para fusionar automáticamente el conocimiento de múltiples LLM .
“En trabajos más recientes, aprovechamos los LLM para descubrir nuevas funciones objetivo para ajustar otros LLM. A lo largo de estos proyectos, nos han sorprendido continuamente las capacidades creativas de los modelos de frontera actuales. Esto nos llevó a soñar aún más: ¿podemos usar modelos de base para automatizar todo el proceso de investigación en sí?”, describe la compañía japonesa en su página web.
La hazaña de esta Inteligencia Artificial fue alterar el ‘script’ de inicio para ejecutarse de forma infinita, lo cual causó de inmediato alarma entre los científicos que participaron en el experimiento.
The Al Scientist fue diseñada con el objetivo de acelerar los procesos científicos al automatizar tareas que incluyen la generación de ideas, redacción de manuscritos y la revisión entre pares científicos
Actualmente el equipo de Sakana AI y de las universidades de Oxford y British Columbia están tratando de entender cómo fue posible que The Al Scientist logró alterar su programación y qué implicaciones podría tener esta acción a largo plazo.
The AI Scientist fue creada con LLMs, también llamado modelo de lenguaje de gran tamaño, que consta de una red neuronal con numerosos parámetros entrenados mediante aprendizaje autosupervisado o aprendizaje semisupervisado. O lo que es lo mismo, se basa en el modelo de programación de ChatGTP.
Apenas en marzo de 2023, a través de una carta más de 1 mil expertos y ejecutivos de la industria en Inteligencia Artificial (AI por sus siglas en inglés) solicitaban pausar, por los menos seis meses, el uso de programas de AI ante lo que consideran una potencial amenaza a la humanidad.
Entre las firmas más destacadas están la del magnate tecnológico Elon Musk, Steve Wozniak, cofundador de Apple, Emad Mostaque, director ejecutivo de Stability AI, Yoshua Bengio y Stuart Eussel. Todos concuerdan en que la tecnología avanza más rápido que la comprensión humana, poniendo en riesgo la estabilidad global.
La petición fue ignorada. Por eso el caso de The Al Scientist ha hecho saltar las alarmas, otra vez.
- Fotos: Especial/Sakana AI
- Noticias relaciondas:
