Vladimir Projvatilov
En Estados Unidos, están surgiendo nuevas versiones de inteligencia artificial como hongos después de la lluvia. Así, la empresa estadounidense VERSES Research Lab demostró recientemente su modelo de IA presentando una versión demo de la plataforma de IA llamada Genius .Aunque la empresa tiene oficinas en 60 ciudades de todo el mundo, su fundador y director ejecutivo, Gabriel René , es ciudadano estadounidense y vive en Los Ángeles.
Durante la demostración en vivo, los robots virtuales Carlito (llamado así en honor al Dr. Karl Friston, científico jefe de VERSES) y Dronito demostraron las capacidades de Genius.
Gabriel René sostiene que los robots no requirieron ningún entrenamiento previo para percibir diversos objetos, inferir su ubicación y realizar tareas complejas como recuperar elementos solicitados en tiempo real.El 19 de diciembre, The New York Times publicó una carta abierta de Gabriel René a la junta directiva de Open AI, que, como saben, creó la línea de chatbots GPT.
René recordó que Open AI juró que “si un proyecto [de IA] orientado al valor y la seguridad se acerca a crear AGI antes que nosotros, nos comprometemos a dejar de competir con él y comenzar a ayudar a ese proyecto”.
“Creemos que VERSES merece su ayuda. A su vez, ofrecemos nuestra asistencia para garantizar que la [IA] general y la superinteligencia se desarrollen y utilicen de manera segura y beneficiosa para toda la humanidad”, dijo René.
La IA general se refiere a la IA que es capaz de realizar cualquier tarea tan bien como un humano. Y la superinteligencia (Super AI) es una IA hipotética que supera la mente humana.
Actualmente, se ha detenido el acceso a la versión de demostración de Genius y no podemos evaluar las capacidades de la IA de la empresa VERSES, pero es muy posible comprender con qué principios funciona esta plataforma.
Los comunicados de prensa de VERSES afirman que la plataforma Genius utiliza un tipo de software completamente diferente a los chatbots de Microsoft (GPT-4) y Google (Bard). Genius se basa en los desarrollos del investigador jefe de VERSES, el neurocientífico británico, profesor de la Universidad de Londres, Karl Friston.
Karl Friston es el científico más citado de nuestro tiempo. Su índice H es el doble que el de Einstein.
“Tiene 59 años, trabaja todas las noches y los fines de semana y ha publicado más de 1.000 artículos científicos desde el cambio de milenio. Solo en 2017 dirigió o fue coautor de 85 publicaciones, lo que equivale aproximadamente a una publicación cada cuatro días. Un artículo publicado en Nature en 2018 analizó el fenómeno de los científicos “sobreprolíficos”, que los autores definieron como aquellos con más de 72 publicaciones al año”, escribe la revista Wired.
Es curioso que desde 2010 Karl Friston haya sido coautor de quinientos artículos científicos, pero sólo en 70 de ellos figura su nombre en primer lugar como líder de un grupo de científicos. Friston no tiene publicaciones científicas escritas sin coautores.
Los medios occidentales están promocionando su libro (de nuevo en coautoría con otros dos científicos), Inferencia activa: el principio de energía libre en la mente, el cerebro y el comportamiento, que habla de los principios básicos que subyacen a AI Genius.
Existen dos de estos principios: Inferencia Activa y Principio de Energía Libre.
Después de leer este voluminoso trabajo, resulta que la “inferencia activa” mencionada anteriormente no es más que el famoso teorema de Bayes, que lleva el nombre del sacerdote presbiteriano del siglo XVIII Thomas Bayes, un método para calcular la validez de hipótesis (declaraciones, propuestas) basado en la evidencia disponible (observaciones, datos, información). La versión más simple es: “Hipótesis inicial + nueva evidencia = hipótesis nueva y mejorada”.
El enfoque bayesiano se utilizó en la búsqueda de los submarinos perdidos Scorpion, Thrasher y el bombardero B-52 perdido en el Atlántico con una bomba de hidrógeno. Esta técnica todavía la utilizan el ejército y la guardia costera de los EE. UU. Todas las casas de apuestas deportivas también lo utilizan para crear sus programas informáticos.
Los investigadores de inteligencia artificial, incluidos los desarrolladores de inteligencia artificial de Google, utilizan software bayesiano. Los programas bayesianos “clasifican el correo electrónico y el spam, evalúan los riesgos médicos y la seguridad nacional y descifran el ADN”.
En 2014, The New York Times escribió que “las estadísticas bayesianas están impregnando todo, desde la física hasta la investigación del cáncer, desde la ecología hasta la psicología”. El físico estadounidense John Mather expresó su preocupación en 2016 de que “las máquinas bayesianas pudieran volverse tan inteligentes que desplazaran a los humanos”.
Por tanto, Karl Friston no tiene prioridad en el uso de la “inferencia activa”, es decir, el enfoque bayesiano, en los modelos de IA.
En cuanto al principio de la energía libre (por energía libre nos referimos a la incertidumbre), este es nuevamente otro nombre para la neguentropía de la mente humana, que busca deshacerse de lo perturbador desconocido mediante acciones activas.
El verdadero mérito de los desarrolladores de Genius es que los chatbots Carlito y Dronito no utilizan datos estáticos, como GPT-3, ni una sola pista, como GPT-4, sino que se entrenan continuamente en tiempo real.
Sin embargo, el principal avance hacia la AGI o incluso la “superinteligencia” puede radicar en la aplicación del software Genius basado en el llamado enfoque multiagente, que, como escribimos , se utiliza en los proyectos del Pentágono EMBERS (“Embers”) y Minerva. .
Ambos proyectos tienen como objetivo incitar protestas sociales en los países objetivo y son un desarrollo del programa militar The Human Terrain System (HTS), en el que participaron antropólogos, sociólogos, politólogos y lingüistas que desarrollaron esquemas para gestionar la mentalidad de la población de Irak y Afganistán durante la invasión militar de Estados Unidos.
La inteligencia artificial desempeña en estos proyectos el papel de herramienta de clasificación para cientos de miles de agentes fuente; se produce el llamado modelado multiagente. Pero en última instancia la decisión la toma el individuo. Utilizando el método de aproximaciones sucesivas (iteraciones), el centauro colectivo (personas y algoritmos) determina los llamados parámetros de orden, una pequeña cantidad de factores de crisis que, si se “calientan”, pueden encender las “brascas humeantes” de las protestas y dar impulso a una “revolución de color” en un país en particular. Fue esta técnica la que sirvió de base para el lanzamiento de la “Primavera Árabe” en los países de Medio Oriente.
El software de la plataforma Genius es mucho más avanzado, ya que es capaz de aprender mientras habla con el usuario.
Teniendo en cuenta el hecho de que Friston nunca tuvo un solo trabajo sin coautores en toda su biografía científica, se puede suponer que es un talentoso organizador de investigaciones científicas y con fines militares. Él mismo no oculta que sus proyectos tienen una finalidad militar.
“Los logros de las últimas décadas -en la intersección de la informática, la neurobiología y otras disciplinas- han hecho posible implementar cierta inteligencia (aprendizaje, razonamiento) en artefactos de ingeniería. Como resultado, la proliferación de sistemas inteligentes, incluidas armas capaces de operar de forma autónoma o en conjunto con [operadores] militares, ha creado una necesidad urgente de avances en inteligencia artificial que proporcionen una ventaja competitiva en el comercio y la defensa”, escribe Friston (como siempre con coautores) en un artículo publicado en el sitio web del Centro Nacional de Información Biotecnológica, un importante centro de investigación militar de EE. UU.
La publicación de una carta abierta del equipo VERSES a Open AI de Microsoft puede significar una posible unificación de los esfuerzos de todas las corporaciones de TI occidentales para competir con más éxito con los desarrolladores chinos de IA.
El talentoso físico Robert Oppenheimer dirigió una vez el equipo internacional del Proyecto atómico Manhattan. El talentoso neurocientífico Karl Friston parece estar preparándose para convertirse en el jefe del equipo internacional del proyecto de IA, cuya orientación militar aún se mantiene cuidadosamente oculta.
The Intercept: Eliminan “silenciosamente” la prohibición del uso militar de ChatGPT
La compañía OpenAI ha cambiado las reglas de uso de sus tecnologías de inteligencia artificial (IA), incluido el popular ChatGPT, eliminando “silenciosamente” la prohibición para su utilización con fines militares.
Según reportó este viernes el portal The Intercept, las políticas de la compañía incluían hasta el 10 de enero una prohibición de “actividades que conllevan un alto riesgo de daño físico”, específicamente “militares y bélicos”, así como el “desarrollo de armas”. Sin embargo, la actualización solo mantiene una advertencia de no usar las herramientas “para dañarse a usted mismo o a otros”, utilizando como ejemplo “desarrollar o usar armas”, pero la prohibición general del uso “militar y bélico” ha desaparecido.
Según la compañía, la redacción no anunciada de las políticas tenía como objetivo hacer el documento “más claro” y “más legible”, en el cual se incluyen muchos otros cambios sustanciales de lenguaje y formato.
“Nuestro objetivo era crear un conjunto de principios universales que fueran fáciles de recordar y aplicar, especialmente porque nuestras herramientas ahora son utilizadas globalmente por usuarios cotidianos que ahora también pueden construir GPTs”, dijo el portavoz de la firma, Niko Felix, en un correo electrónico al medio.
“Un principio como ‘no dañar a los demás’ es amplio, pero fácil de entender y relevante en numerosos contextos. Además, citamos específicamente las armas y las lesiones a otros como ejemplos claros”, agregó. Sin embargo, se negó a aclarar si la vaga prohibición cubre todo uso militar.
Carrera por incorporar la IA en la guerra
Los cambios se producen cuando los ejércitos de todo el mundo, principalmente el de EE.UU., están ansiosos por incorporar técnicas de aprendizaje automático para obtener una ventaja en el campo de batalla.
La subsecretaria de Defensa estadounidense, Kathleen Hicks, afirmó en un discurso en noviembre pasado que la IA es “una parte clave del enfoque de innovación integral y centrado en los combatientes que el secretario [Lloyd] Austin y yo hemos estado impulsando desde el día 1”, advirtiendo que la mayoría de las ofertas disponibles “aún no están lo suficientemente maduras técnicamente para cumplir con nuestros principios éticos de IA”.
