05 julio 2023.- El auge de ChatGPT y sistemas de inteligencia artificial similares ha ido acompañado de un fuerte aumento de la ansiedad ...
05 julio 2023.- El auge de ChatGPT y sistemas de inteligencia artificial similares ha ido acompañado de un fuerte aumento de la ansiedad por la IA . Durante los últimos meses, los ejecutivos y los investigadores de seguridad de la IA han estado ofreciendo predicciones, denominadas " P(doom) ", sobre la probabilidad de que la IA provoque una catástrofe a gran escala.
Podría preguntarse cómo se supone que se desarrollan tales miedos existenciales. Un escenario famoso es el experimento mental del “ maximizador de clips de papel ” articulado por el filósofo de Oxford Nick Bostrom . La idea es que un sistema de inteligencia artificial encargado de producir tantos clips de papel como sea posible podría hacer todo lo posible para encontrar materias primas, como destruir fábricas y causar accidentes automovilísticos.
Una variación que requiere menos recursos tiene una IA encargada de obtener una reserva para un restaurante popular que apaga las redes celulares y los semáforos para evitar que otros clientes obtengan una mesa.
Suministros de oficina o cena, la idea básica es la misma: la IA se está convirtiendo rápidamente en una inteligencia alienígena, buena para lograr objetivos pero peligrosa porque no necesariamente se alineará con los valores morales de sus creadores. Y, en su versión más extrema, este argumento se transforma en ansiedades explícitas acerca de que las IA esclavicen o destruyan a la raza humana .
Sí, la capacidad de la IA para crear videos y audios profundamente falsos y convincentes es aterradora, y las personas pueden abusar de ella con malas intenciones. De hecho, eso ya está sucediendo. Los sistemas de toma de decisiones de IA que ofrecen aprobación de préstamos y recomendaciones de contratación conllevan el riesgo de sesgo algorítmico, ya que los datos de capacitación y los modelos de decisión en los que se ejecutan reflejan prejuicios sociales históricos.
Estos son grandes problemas y requieren la atención de los formuladores de políticas. Pero han existido por un tiempo, y no son cataclísmicos.
La IA simplemente no está cerca de obtener la capacidad de hacer graves daños. El escenario del clip y otros similares son ciencia ficción. Las aplicaciones de IA existentes ejecutan tareas específicas en lugar de emitir juicios amplios. La tecnología está lejos de poder decidir y luego planificar los objetivos y objetivos subordinados necesarios para cerrar el tráfico para conseguir un asiento en un restaurante, o volar una fábrica de automóviles para satisfacer su ansia de sujetapapeles.
La tecnología no solo carece de la complicada capacidad de juicio multicapa que está involucrada en estos escenarios, sino que tampoco tiene acceso autónomo a suficientes partes de nuestra infraestructura crítica para comenzar a causar ese tipo de daño.
En realidad, existe un peligro existencial inherente al uso de la IA, pero ese riesgo es existencial en el sentido filosófico más que apocalíptico. La IA en su forma actual puede alterar la forma en que las personas se ven a sí mismas. Puede degradar habilidades y experiencias que las personas consideran esenciales para ser humanos.
Por ejemplo, los humanos son criaturas que emiten juicios. Las personas sopesan racionalmente los detalles y hacen juicios diarios en el trabajo y durante el tiempo libre sobre a quién contratar, quién debería obtener un préstamo, qué ver, etc. Pero cada vez más de estos juicios están siendo automatizados y asignados a algoritmos . Mientras eso sucede, el mundo no se acabará. Pero la gente perderá gradualmente la capacidad de hacer estos juicios por sí misma. Cuantos menos de ellos haga la gente, es probable que peor se vuelvan al hacerlos.
O considere el papel del azar en la vida de las personas. Los seres humanos valoran los encuentros fortuitos: encontrarse con un lugar, una persona o una actividad por accidente, sentirse atraídos por él y apreciar retrospectivamente el papel que jugó el accidente en estos hallazgos significativos. Pero el papel de los motores de recomendación algorítmica es reducir ese tipo de casualidad y reemplazarlo con planificación y predicción.
Finalmente, considere las capacidades de escritura de ChatGPT. La tecnología está en proceso de eliminar el papel de las tareas de escritura en la educación superior. Si lo hace, los educadores perderán una herramienta clave para enseñar a los estudiantes a pensar críticamente .
Entonces, no, la IA no volará el mundo. Pero la aceptación cada vez más acrítica de ella, en una variedad de contextos estrechos, significa la erosión gradual de algunas de las habilidades más importantes de los humanos. Los algoritmos ya están socavando la capacidad de las personas para emitir juicios, disfrutar de encuentros fortuitos y perfeccionar el pensamiento crítico.
La especie humana sobrevivirá a tales pérdidas. Pero nuestra forma de existir se empobrecerá en el proceso.
COMENTARIOS