‘All watched over by machines of loving grace’ por Memo Akten, 2021. Creado usando software AI. Memo Akten 17 junio 2023.- Las capacidade...
 |
| ‘All watched over by machines of loving grace’ por Memo Akten, 2021. Creado usando software AI. Memo Akten |
17 junio 2023.- Las capacidades de una nueva clase de herramientas, coloquialmente conocidas como inteligencia artificial generativa (IA), es un tema de mucho debate. Una aplicación destacada hasta el momento es la producción de medios artísticos de alta calidad para artes visuales, arte conceptual, música y literatura, así como video y animación. Por ejemplo, los modelos de difusión pueden sintetizar imágenes de alta calidad ( 1 ) y los modelos de lenguaje extenso (LLM) pueden producir prosa y versos impresionantes y con un sonido sensato en una amplia variedad de contextos ( 2).
Es probable que las capacidades generativas de estas herramientas alteren fundamentalmente los procesos creativos mediante los cuales los creadores formulan ideas y las ponen en producción. A medida que se reinventa la creatividad, también pueden hacerlo muchos sectores de la sociedad. Comprender el impacto de la IA generativa y tomar decisiones políticas al respecto requiere una nueva investigación científica interdisciplinaria sobre la cultura, la economía, la ley, los algoritmos y la interacción de la tecnología y la creatividad.
Las herramientas de IA generativa, a primera vista, parecen automatizar por completo la producción artística, una impresión que refleja instancias pasadas en las que los tradicionalistas veían las nuevas tecnologías como una amenaza para el "arte mismo". De hecho, estos momentos de cambio tecnológico no indicaron el “fin del arte”, sino que tuvieron efectos mucho más complejos, reformulando los roles y prácticas de los creadores y cambiando la estética de los medios contemporáneos ( 3).
Por ejemplo, algunos artistas del siglo XIX vieron el advenimiento de la fotografía como una amenaza para la pintura. Sin embargo, en lugar de reemplazar la pintura, la fotografía finalmente la liberó del realismo, dando lugar al impresionismo y al movimiento de arte moderno. Por el contrario, la fotografía de retratos reemplazó en gran medida a la pintura de retratos. De manera similar, la digitalización de la producción musical (por ejemplo, el muestreo digital y la síntesis de sonido) fue denunciada como “el fin de la música”. En cambio, alteró la forma en que las personas producen y escuchan música, y ayudó a generar nuevos géneros, incluidos el hip hop y el drum'n'bass. Al igual que estos análogos históricos, la IA generativa no es el presagio de la desaparición del arte, sino que es un nuevo medio con sus propias y distintas posibilidades. Como conjunto de herramientas utilizadas por creadores humanos,
Sin embargo, a diferencia de las interrupciones pasadas, la IA generativa se basa en datos de entrenamiento creados por personas. Los modelos “aprenden” a generar arte extrayendo patrones estadísticos de los medios artísticos existentes. Esta dependencia de los datos de entrenamiento plantea nuevos problemas, como dónde se obtienen los datos, cómo influye en los resultados y cómo determinar la autoría.
Al aprovechar el trabajo existente para automatizar aspectos del proceso creativo, la IA generativa desafía las definiciones convencionales de autoría, propiedad, inspiración creativa, muestreo y remezcla y, por lo tanto, complica las concepciones existentes de producción de medios. Por lo tanto, es importante considerar los impactos de la IA generativa en la estética y la cultura, las cuestiones legales de propiedad y crédito, el futuro del trabajo creativo y los impactos en el ecosistema de los medios contemporáneos. A través de estos temas,4 )
Para estudiar adecuadamente estos temas, primero es necesario comprender cómo el lenguaje utilizado para describir la IA afecta las percepciones de la tecnología. El mismo término "inteligencia artificial" podría implicar engañosamente que estos sistemas exhiben una intención, agencia o incluso autoconciencia similares a los humanos. Las interfaces basadas en lenguaje natural ahora acompañan a los modelos generativos de IA, incluidas las interfaces de chat que usan el pronombre "I", que puede dar a los usuarios una sensación de interacción y agencia similar a la humana.
Estas percepciones pueden socavar el crédito de los creadores cuyo trabajo es la base de los productos del sistema ( 5 ) y desviar la responsabilidad de los desarrolladores y tomadores de decisiones cuando estos sistemas causan daño ( 6 )). Se necesita trabajo futuro para comprender cómo las percepciones del proceso generativo afectan las actitudes hacia los productos y los autores. Esto podría facilitar el diseño de sistemas que divulguen el proceso generativo y eviten interpretaciones engañosas.
Las prestaciones específicas de la IA generativa, a su vez, dan lugar a una nueva estética que puede tener un efecto a largo plazo en el arte y la cultura. A medida que estas herramientas se vuelven más generalizadas y su uso se vuelve común (como sucedió con la fotografía hace un siglo), sigue siendo una pregunta abierta cómo la estética de sus resultados afectará los resultados artísticos. Una barrera de entrada baja para la IA generativa podría aumentar la diversidad general de los productos artísticos al expandir el conjunto de creadores que se dedican a la práctica artística.
Al mismo tiempo, las normas estéticas y culturales y los sesgos incrustados en los datos de entrenamiento pueden capturarse, reflejarse e incluso amplificarse, disminuyendo así la diversidad ( 7). El contenido generado por IA también puede alimentar modelos futuros, creando un volante estético autorreferencial que podría perpetuar las normas culturales impulsadas por IA. La investigación futura debería explorar formas de cuantificar y aumentar la diversidad de resultados y estudiar cómo las herramientas de IA generativa pueden influir en la estética y la diversidad estética.
Los algoritmos de recomendación opacos y que maximizan el compromiso de las plataformas de redes sociales podrían reforzar aún más las normas estéticas a través de circuitos de retroalimentación ( 8 ) que producen contenido sensacional y compartible. A medida que los creadores de algoritmos y contenido intentan maximizar la participación, esto puede homogeneizar aún más el contenido. Sin embargo, algunos experimentos preliminares ( 9) sugieren que la incorporación de métricas de participación al seleccionar contenido generado por IA puede, en algunos casos, diversificar el contenido.
Sigue siendo una pregunta abierta qué estilos amplifican los algoritmos de recomendación y cómo esa priorización afecta los tipos de contenido que crean y comparten los creadores. El trabajo futuro debe explorar los sistemas complejos y dinámicos formados por la interacción entre modelos generativos, algoritmos de recomendación y plataformas de redes sociales, y su impacto resultante en la diversidad estética y conceptual.
La confianza de la IA generativa en los datos de entrenamiento para automatizar aspectos de la creación plantea desafíos legales y éticos con respecto a la autoría y, por lo tanto, debería impulsar la investigación técnica sobre la naturaleza de estos sistemas. La ley de derechos de autor debe equilibrar los beneficios para los creadores, los usuarios de herramientas de IA generativa y la sociedad en general.
Las leyes podrían tratar el uso de datos de capacitación como no infractor si las obras protegidas no se copian directamente; uso legítimo si la formación implica una transformación sustancial de los datos subyacentes; permitido solo si los creadores otorgan una licencia explícita; o sujeto a licencias obligatorias legales que permitan que los datos se utilicen para capacitación siempre que los creadores sean compensados. Gran parte de la ley de derechos de autor se basa en interpretaciones judiciales, por lo que aún no está claro si recopilar datos de terceros para capacitar o imitar el estilo de un artista violaría los derechos de autor.
Las cuestiones legales y técnicas están entrelazadas: ¿los modelos copian directamente elementos de los datos de entrenamiento o producen obras completamente nuevas? Incluso cuando los modelos no se copian directamente de obras existentes, no está claro si los estilos individuales de los artistas deben protegerse y cómo. ¿Qué mecanismos podrían proteger y compensar a los artistas cuyo trabajo se utiliza para la formación, o incluso permitirles optar por no participar, y al mismo tiempo permitir que se realicen nuevas contribuciones culturales con modelos generativos de IA?
Responder a estas preguntas y determinar cómo la ley de derechos de autor debe tratar los datos de capacitación requiere una investigación técnica sustancial para desarrollar y comprender los sistemas de IA, investigación en ciencias sociales para comprender las percepciones de similitud e investigación legal para aplicar los precedentes existentes a la nueva tecnología. Por supuesto, estos puntos representan solo una perspectiva legal estadounidense.
Una cuestión legal distinta se refiere a quién puede reclamar la propiedad sobre los resultados del modelo. Responder a esto requiere comprender las contribuciones creativas de los usuarios de un sistema frente a otras partes interesadas, como los desarrolladores del sistema y los creadores de los datos de capacitación. Los desarrolladores de IA podrían reclamar la propiedad de los resultados a través de los términos de uso.
Por el contrario, si los usuarios del sistema se han involucrado de una manera significativamente creativa (p. ej., el proceso no está completamente automatizado o no emula obras específicas), entonces podrían ser considerados titulares de derechos de autor predeterminados. Pero, ¿cuán importante debe ser la influencia creativa de los usuarios para reclamar la propiedad? Estas preguntas implican estudiar el proceso creativo de usar herramientas basadas en IA y pueden volverse más complejas si los usuarios obtienen un control más directo.
Independientemente de los resultados legales, es probable que las herramientas de IA generativa transformen el trabajo y el empleo creativos. La teoría económica prevaleciente [es decir, el cambio tecnológico sesgado por las habilidades (SBTC, por sus siglas en inglés)] supone que los trabajadores cognitivos y creativos enfrentan menos interrupciones laborales debido a la automatización porque la creatividad no se puede codificar fácilmente en reglas concretas (es decir, la paradoja de Polanyi) ( 10).
Sin embargo, las nuevas herramientas han generado preocupaciones laborales para ocupaciones creativas como compositores, diseñadores gráficos y escritores. Este conflicto surge porque SBTC no logra diferenciar entre actividades cognitivas como el trabajo analítico y la ideación creativa. Se necesita un nuevo marco para caracterizar los pasos específicos del proceso creativo, cuáles de esos pasos podrían verse afectados por las herramientas de IA generativa y los efectos en los requisitos y actividades del lugar de trabajo de diversas ocupaciones cognitivas ( 11 ) .
Si bien estas herramientas pueden amenazar algunas ocupaciones, podrían aumentar la productividad de otras y tal vez crear otras nuevas. Por ejemplo, históricamente, las tecnologías de automatización de la música permitieron que más músicos crearan, incluso cuando las ganancias se distorsionaron ( 12). Los sistemas de IA generativa pueden crear cientos de resultados por minuto, lo que puede acelerar el proceso creativo a través de una ideación rápida. Sin embargo, esta aceleración también podría socavar aspectos de la creatividad al eliminar el período inicial de creación de prototipos asociado con una tabula rasa.
En cualquier caso, es probable que disminuyan el tiempo y los costos de producción. La producción de bienes creativos puede volverse más eficiente, lo que lleva a la misma cantidad de producción con menos trabajadores. A su vez, la demanda de trabajo creativo puede aumentar. Sin embargo, la producción de bienes creativos puede volverse más eficiente, lo que lleva a la misma cantidad de producción con menos trabajadores. Además, muchas ocupaciones de trabajo por contrato que utilizan herramientas convencionales, como la ilustración o la fotografía de archivo, podrían verse desplazadas.
Varios ejemplos históricos lo confirman. Más destacado, la Revolución Industrial permitió la producción en masa de artesanías tradicionalmente artesanales (p. ej., cerámica, textiles y fabricación de acero) con el trabajo de no artesanos; los artículos hechos a mano se convirtieron en artículos especiales. Del mismo modo, la fotografía reemplazó a la pintura de retratos. La digitalización de la música eliminó las limitaciones de aprender a manipular físicamente los instrumentos y permitió arreglos más complejos con más colaboradores. Estas herramientas pueden cambiar quién puede trabajar como artista, en cuyo caso el empleo de los artistas puede aumentar incluso cuando los salarios promedio caen.
La digitalización de la música eliminó las limitaciones de aprender a manipular físicamente los instrumentos y permitió arreglos más complejos con más colaboradores. Estas herramientas pueden cambiar quién puede trabajar como artista, en cuyo caso el empleo de los artistas puede aumentar incluso cuando los salarios promedio caen. La digitalización de la música eliminó las limitaciones de aprender a manipular físicamente los instrumentos y permitió arreglos más complejos con más colaboradores. Estas herramientas pueden cambiar quién puede trabajar como artista, en cuyo caso el empleo de los artistas puede aumentar incluso cuando los salarios promedio caen.
Como estas herramientas afectan el trabajo creativo, también introducen posibles daños posteriores al ecosistema de medios más amplio. A medida que disminuye el costo y el tiempo para producir medios a escala, el ecosistema de medios puede volverse vulnerable a la información errónea generada por la IA a través de la creación de medios sintéticos, en particular los medios que brindan evidencia probatoria para afirmaciones ( 13 ) . Estas nuevas posibilidades para generar medios sintéticos fotorrealistas pueden socavar la confianza en los medios capturados de manera auténtica a través del llamado “dividendo del mentiroso” (el contenido falso beneficia a los mentirosos al socavar la confianza en la verdad) ( 14) y también aumentan las amenazas de fraude y las imágenes sexuales no consentidas.
Esto plantea importantes preguntas de investigación: ¿Cuál es el papel de las intervenciones de la plataforma, como el seguimiento de la procedencia de la fuente y la detección de medios sintéticos aguas abajo en la gobernanza y la generación de confianza ( 15 )? ¿Y cómo afecta la proliferación de medios sintéticos a la confianza en los medios reales, como las fotografías periodísticas sin editar? A medida que aumenta la producción de contenido, la capacidad de atención colectiva puede disminuir ( 16 ). La explosión de contenido generado por IA puede, a su vez, obstaculizar la capacidad de la sociedad para discutir y actuar colectivamente en áreas importantes como el clima y la democracia.
Todos los medios artísticos reflejan y comentan los problemas de su tiempo, y los debates en torno al arte contemporáneo generado por IA reflejan los problemas actuales relacionados con la automatización, el control corporativo y la economía de la atención. En última instancia, expresamos nuestra humanidad a través del arte, por lo que comprender y dar forma al impacto de la IA en la expresión creativa está en el centro de preguntas más amplias sobre su impacto en la sociedad. La nueva investigación sobre la IA generativa debería informar las políticas y los usos beneficiosos de la tecnología al tiempo que se involucra con las partes interesadas críticas, en particular los artistas y los trabajadores creativos, muchos de los cuales se involucran activamente con preguntas difíciles en la vanguardia del cambio social.
Agradecimientos
ZE y MG ayudaron a evaluar DALL-E 2 y MRF ayudó a evaluar ChatGPT para OpenAI. AH y LH trabajan para Adobe, que fabrica herramientas de inteligencia artificial generativa; las ideas aquí expresadas no representan las de la empresa.
Investigadores de la creatividad humana Memo Akten 1 , Hany Farid 2 , Jessica Fjeld 3 , Morgan R. Frank 4 , Matthew Groh 5 , Laura Herman 6,7 , Neil Leach 8 , Robert Mahari 3,5 , Alex “Sandy” Pentland 5 , Olga Russakovsky 9 , Hope Schroeder 5 , Amy Smith 10
1Universidad de California, San Diego, San Diego, CA, EE. UU. 2 Universidad de California, Berkeley, Berkeley, CA, EE. UU. 3 Facultad de Derecho de Harvard, Cambridge, MA, EE. UU. 4 Universidad de Pittsburgh, Pittsburgh, Pensilvania, EE. UU. 5 Instituto Tecnológico de Massachusetts, Cambridge, MA, EE. UU. 6 Universidad de Oxford, Oxford, Reino Unido. 7 Adobe, Inc., Londres, Reino Unido. 8 Universidad Internacional de Florida, Miami, FL, EE. UU. 9 Universidad de Princeton, Princeton, Nueva Jersey, EE. UU. 10 Universidad Queen Mary de Londres, Londres, Reino Unido.
Referencias
1. R. Rombach et al., Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognition (2022). pp. 10684–10695.VER REFERENCIA
2. A. Vaswani et al., “Attention is all you need” in Advances in Neural Information Processing Systems 30 (2017).VER REFERENCIA
3. A. Hertzmann, Arts. 7 (no. 2) (2018).VER REFERENCIA
4. Z. Epstein et al., Art and the science of generative AI: A deeper dive. arXiv2306.04141 [cs.CY] (2023).VER REFERENCIA
5. Z. Epstein et al., iScience 23, 101515 (2020).VER REFERENCIA
6 . C. Elish, Engag. Sci. Technol. Soc. 5, 40 (2019).VER REFERENCIA
7 S. U. Noble, Algorithms of Oppression: How Search Engines Reinforce Racism (New York Univ. Press, 2018).VER REFERENCIA
8. A. J. B. Chaney et al., in Proceedings of the 12th ACM Conference on Recommender Systems (2018), pp. 224–232.VER REFERENCIA
9. Z. Epstein, M. Groh, A. Dubey, A. Pentland, Proc. ACM Hum. Comput. Interact. 5 (CSCW2), 1 (2021).VER REFERENCIA
10. C. B. Frey, M. A. Osborne, Technol. Forecast. Soc. Change 114, 254 (2017).VER REFERENCIA
12. D. Hesmondhalgh et al., “Music creators’ earnings in the digital era.” Intellectual Property Office Research Paper (2021).VER REFERENCIA
13. J. A. Goldstein et al., arXiv 2301.04246 [cs.CY] (2023).VER REFERENCIA
15. H. Farid, J. Online Trust Safety (2022).VER REFERENCIA
16. P. Lorenz-Spreen et al., Nat. Commun. 10, 1759 (2019).VER REFERENCIA
COMENTARIOS