La “nueva” inteligencia artificial y sus peligrosos alcances

En el mundo de la tecnología la polémica esta semana fue el despido de Sam Altman, cofundador y CEO de OpenAI, dicen, por hablar más de la cuenta en la APEC 2023 que se realizó en San Francisco. Lo raro es que regresó a la empresa a los 5 días.

Pero justo antes del despido de Altman, investigadores de su equipo enviaron una carta al consejo de OpenAI advirtiendo sobre un descubrimiento que podía amenazar a la humanidad. Se trataría de un algoritmo que según los empleados de la compañía podría lograr una inteligencia artificial (IA) capaz de superar a la humana.

El desarrollo de esta inteligencia artificial general (AGI) está tras el proyecto “Q*”, o “Q star”, hasta hace no mucho tiempo reservado, definido por OpenAI como sistemas autónomos que pueden superar a los humanos en la mayoría de las tareas económicamente valiosas.

La barrera de las matemáticas

La resolución de ejercicios matemáticos era una barrera en el desarrollo de la IA “convencional”, llamada generativa, la nueva en cambio, la general, la acaba de superar. La AGI, fue capaz de resolver varios problemas matemáticos de nivel bajo, como los que realizan los alumnos de básica, sin embargo esto significó un avance tremendo.

La IA generativa es buena para predecir palabras de acuerdo a un contexto, traducir idiomas, escribir textos, etc, todo lo que tenga que ver con “generar”, donde una respuesta a una misma pregunta pueda variar.

Esta funciona usando grandes bases de datos llamadas modelos de lenguaje (LLMs), que si bien sirven para generar textos, no entienden el significado de lo que están procesando.

Por eso que la AGI haya resuelto ejercicios matemáticos es tan importante, en las matemáticas sólo hay una respuesta correcta, esto significaría que las capacidad de razonamiento de estos sistemas se están asimilando a las humanas.

La AGI puede generalizar datos, aprenderlos y comprenderlos.

Alcances

Nisha Talagala, doctorada en Ciencias de la Computación en la Universidad de Berkeley en Estados Unidos y experta en IA, escribió una columna para Forbes en la que entrega sus propias definiciones sobre esta nueva inteligencia artificial.

Comienza diferenciando a la AGI de la IA, esta última diseñada para realizar tareas específicas pero carente de las capacidades cognitivas de la inteligencia humana. La característica principal de la AGI es su capacidad de generalización y adaptación diferentes tareas. 

Por ejemplo, hay IA’s que pueden ganar partidas de ajedrez a humanos, pero no pueden leer un libro. Asimismo, hay otras que se especializan en predecir desastres naturales, calcular préstamos bancarios o diagnosticar enfermedades. La AGI podría hacer todas estas cosas.

Pronostica también que la AGI impactará mucho más que la IA en el mercado laboral. “Una IA que pueda leer una radiografía y detectar enfermedades puede ayudar a los médicos en su trabajo. Pero, un AGI que pueda leer la radiografía, comprender la historia del paciente, hacer una recomendación al paciente con una actitud amable, podría reemplazar al médico. Los beneficios y riesgos potenciales para las economías y los empleos son enormes”.

Respecto a que si la AGI podría volverse contra los humanos la experta lo descarta, afirma eso sí que es probable que alcance cierta forma de conciencia, pero que “las armas impulsadas por IA dirigidas por humanos, la desinformación, el desplazamiento laboral, la alteración ambiental, etc.” son mucho más peligrosas para lo que viene.