No es necesario ver el futuro para saber que la IA tiene un bagaje ético. No toda la escritura generada por IA es tan agradable. Colección...
 |
| No es necesario ver el futuro para saber que la IA tiene un bagaje ético. No toda la escritura generada por IA es tan agradable. Colección Smith/Gado/Fotos de archivo a través de Getty Images |
A medida que crece la preocupación pública por las implicaciones éticas y sociales de la inteligencia artificial, puede parecer que es hora de reducir la velocidad. Pero dentro de las propias empresas tecnológicas, el sentimiento es todo lo contrario.
22 abril 2023.- A medida que la carrera de IA de Big Tech se calienta, sería un "error absolutamente fatal en este momento preocuparse por las cosas que se pueden arreglar más adelante", escribió un ejecutivo de Microsoft en un correo electrónico interno sobre IA generativa, como informó The New York Times .
En otras palabras, es hora de "moverse rápido y romper cosas", para citar el viejo lema de Mark Zuckerberg. Por supuesto, cuando rompes cosas, es posible que tengas que arreglarlas más tarde, a un coste.
En el desarrollo de software, el término " deuda técnica " se refiere al costo implícito de realizar arreglos futuros como consecuencia de elegir soluciones más rápidas y menos cuidadosas ahora. Correr al mercado puede significar lanzar software que no está listo, sabiendo que una vez que llegue al mercado, descubrirá cuáles son los errores y, con suerte, podrá corregirlos en ese momento.
Sin embargo, las noticias negativas sobre la IA generativa tienden a no ser sobre este tipo de errores. En cambio, gran parte de la preocupación es sobre los sistemas de IA que amplifican los sesgos y estereotipos dañinos y los estudiantes que usan la IA de manera engañosa. Escuchamos sobre preocupaciones de privacidad , personas engañadas por información errónea , explotación laboral y temores sobre la rapidez con la que se pueden reemplazar los trabajos humanos , por nombrar algunos. Estos problemas no son fallas de software. Darse cuenta de que una tecnología refuerza la opresión o el sesgo es muy diferente a saber que un botón en un sitio web no funciona.
Lo que se acumula aquí no es solo deuda técnica, sino deuda ética . Así como la deuda técnica puede resultar de pruebas limitadas durante el proceso de desarrollo, la deuda ética resulta de no considerar posibles consecuencias negativas o daños sociales. Y con la deuda ética en particular, las personas que incurren en ella rara vez son las personas que pagan por ella al final.
Tan pronto como se lanzó ChatGPT de OpenAI en noviembre de 2022 , la pistola de arranque para la carrera de IA de hoy, imaginé que el libro de deudas comenzaba a llenarse.
En cuestión de meses, Google y Microsoft lanzaron sus propios programas generativos de IA, que parecían haberse apresurado a salir al mercado en un esfuerzo por mantenerse al día. Los precios de las acciones de Google cayeron cuando su chatbot Bard proporcionó una respuesta incorrecta durante la demostración de la propia empresa. Uno podría esperar que Microsoft sea particularmente cauteloso cuando se trata de chatbots, considerando a Tay, su bot basado en Twitter que se cerró casi de inmediato en 2016 después de lanzar puntos de conversación misóginos y supremacistas blancos. Sin embargo, las primeras conversaciones con Bing impulsado por IA dejaron inquietos a algunos usuarios , y ha repetido información errónea conocida .
Cuando venza la deuda social de estos lanzamientos apresurados, espero que escuchemos mencionar consecuencias no deseadas o imprevistas. Después de todo, incluso con las pautas éticas vigentes, OpenAI, Microsoft o Google no pueden ver el futuro. ¿Cómo puede alguien saber qué problemas sociales podrían surgir antes de que la tecnología esté completamente desarrollada?
La raíz de este dilema es la incertidumbre, que es un efecto secundario común de muchas revoluciones tecnológicas, pero magnificado en el caso de la inteligencia artificial . Después de todo, parte del objetivo de la IA es que sus acciones no se conocen de antemano. La IA puede no estar diseñada para producir consecuencias negativas, pero está diseñada para producir lo imprevisto.
Sin embargo, es falso sugerir que los tecnólogos no pueden especular con precisión sobre cuáles podrían ser muchas de estas consecuencias. Hasta ahora, ha habido innumerables ejemplos de cómo la IA puede reproducir sesgos y exacerbar las desigualdades sociales, pero estas empresas rara vez identifican públicamente estos problemas.
Fueron investigadores externos quienes encontraron sesgo racial en sistemas comerciales de análisis facial ampliamente utilizados, por ejemplo, y en un algoritmo de predicción de riesgos médicos que se estaba aplicando a alrededor de 200 millones de estadounidenses. Académicos y organizaciones de defensa o investigación como Algorithmic Justice League y Distributed AI Research Institute están haciendo gran parte de este trabajo: identificar los daños después del hecho. Y no parece probable que este patrón cambie si las empresas siguen despidiendo especialistas en ética .
A veces me describo como un optimista de la tecnología que piensa y se prepara como un pesimista. La única forma de disminuir la deuda ética es tomarse el tiempo para pensar con anticipación sobre las cosas que podrían salir mal, pero esto no es algo que necesariamente se les enseñe a hacer a los tecnólogos .
El científico e icónico escritor de ciencia ficción Isaac Asimov dijo una vez que los autores de ciencia ficción “prevén lo inevitable, y aunque los problemas y las catástrofes pueden ser inevitables, las soluciones no lo son”. Por supuesto, los escritores de ciencia ficción no suelen tener la tarea de desarrollar estas soluciones, pero en este momento, los tecnólogos que desarrollan IA sí lo son.
Entonces, ¿cómo pueden los diseñadores de IA aprender a pensar más como escritores de ciencia ficción? No me refiero a diseñar con guerras de robots lejanas en mente. Me refiero a la capacidad de considerar las consecuencias futuras, incluso en un futuro muy cercano.
Este es un tema ya se viene estado explorando durante algún tiempo, alentando a los estudiantes a pensar en las implicaciones éticas de la tecnología de ciencia ficción para prepararlos para hacer lo mismo con la tecnología que puedan crear.
El propósito no es preparar a los estudiantes para esos futuros lejanos; es enseñar la especulación como una habilidad que se puede aplicar inmediatamente. Esta habilidad es especialmente importante para ayudar a los estudiantes a imaginar el daño a otras personas, ya que los daños tecnológicos a menudo afectan de manera desproporcionada a los grupos marginados que están subrepresentados en las profesiones informáticas.
En marzo de 2023, una carta abierta con miles de firmas abogaba por pausar el entrenamiento de sistemas de IA más potentes que GPT-4. Sin control, el desarrollo de la IA “podría eventualmente superarnos en número, astucia, obsolescencia y reemplazo”, o incluso causar una “pérdida de control de nuestra civilización”, advirtieron sus escritores.
Como señalan las críticas a la carta , este enfoque en los riesgos hipotéticos ignora los daños reales que ocurren hoy. Sin embargo, creo que hay poco desacuerdo entre los especialistas en ética de la IA en cuanto a que el desarrollo de la IA debe ralentizarse: que los desarrolladores se den por vencidos y mencionen "consecuencias no deseadas" no lo van a solucionar.
Llevamos solo unos meses en la "carrera de la IA" ganando una velocidad significativa, y creo que ya está claro que las consideraciones éticas se están dejando atrás. Pero la deuda vencerá eventualmente, y la historia sugiere que los ejecutivos e inversores de Big Tech pueden no ser los que paguen por ella.
COMENTARIOS