La inteligencia artificial (IA) tiene el potencial de superar a la inteligencia humana algún día, una noción que algunas personas pueden considerar ciencia ficción. Sin embargo, algunos investigadores creen que ya hay señales tempranas de esta posibilidad en GPT-4.
¿Puede un cerebro artificial realmente comprender? Para algunos investigadores, esto ya no parece absurdo.
La IA podría volverse muy peligrosa para nosotros los humanos. Hay un sorprendente consenso sobre este asunto. La exageración que rodea a la IA y los chatbots se ha convertido recientemente en un frenesí de advertencias.
 |
| ¿Qué tan cerca estamos de la superinteligencia? |
Sin embargo, tras una inspección más cercana, se puede ver que existe un feroz debate sobre cuáles son los peligros que provienen de los sistemas de aprendizaje automático. Algunos expertos advierten de los riesgos en el aquí y ahora. Se podría abusar de los chatbots, por ejemplo, para difundir información falsa en masa. O podrían reproducir distorsiones racistas y sexistas en sus datos de entrenamiento. Otros miran más hacia el futuro. Advierten sobre lo que podría pasar si la IA continúa desarrollándose al ritmo actual. Entonces podría, en su opinión, volverse tan inteligente como los humanos o incluso más inteligente. Los investigadores llaman a esto inteligencia general artificial (AGI), mientras que algunos se refieren a ella como IA fuerte o superinteligencia.
Tal inteligencia podría "algún día superarnos, hacernos redundantes y reemplazarnos". Al menos eso es lo que un grupo de científicos de IA y líderes tecnológicos escribieron en una carta abierta la semana pasada. Por lo tanto, pidieron una pausa en el desarrollo de dichos sistemas y, en cambio, exigieron una pausa de seis meses para desarrollar medidas de seguridad para garantizar que cualquier superinteligencia potencial ayude a la humanidad a resolver sus problemas, en lugar de perder el control y dañarnos.
Si uno encuentra esto sensato o alarmista depende en gran medida de si uno asume que una IA fuerte está realmente a la vuelta de la esquina. Los investigadores de Microsoft Research ahora afirman haber encontrado evidencia de esto. En una publicación ( PDF ), informan que han encontrado "chispas de Inteligencia Artificial General" en un estudio exhaustivo del modelo de lenguaje GPT-4. El sistema muestra "habilidades notables" en una variedad de áreas, que incluyen abstracción, programación, matemáticas, medicina, derecho, comprensión de los motivos y emociones humanos, y mucho más. En muchas de estas áreas, ya supera a los humanos en la actualidad.
Esto contradice directamente lo que otros investigadores han estado diciendo durante mucho tiempo y enfatizan repetidamente. Creen que es imposible que la inteligencia general surja únicamente de modelos estadísticos. El miedo a la superinteligencia es una "tontería".
Si bien es incierto si estamos o no realmente al borde del desarrollo de la superinteligencia, el debate en torno a esta posibilidad es importante. A medida que la IA continúa avanzando, debemos permanecer atentos y asegurarnos de que se desarrolle teniendo en cuenta los intereses y la seguridad de la humanidad.