Scarlett Johansson acusó a OpenAI de crear una voz para el sistema ChatGPT que sonaba “inquietantemente similar” a su propia voz después de que ella misma se negó a poner su voz al chatbot.
Johansson expresó conmoción, enojo e incredulidad de que la voz creada por OpenAI se pareciera mucho a la de ella, hasta el punto de que sus amigos más cercanos y los medios de comunicación no podían diferenciar entre las dos voces.
A pesar de que el director ejecutivo de OpenAI, Sam Altman, afirmó que la voz, llamada ‘Sky', no pretendía imitar la voz de Johansson y pertenecía a una actriz profesional diferente, Johansson encontró la situación alarmante, especialmente en el contexto de la prevalencia de la desinformación y la tecnología deepfake en internet.
El equipo legal de Johansson ha exigido transparencia a OpenAI con respecto al proceso de desarrollo de la voz del asistente personal de IA que, según ella, suena increíblemente similar a la suya.
Open AI aclaró que la voz utilizada para el asistente personal de IA, llamado ‘Sky', no pretendía imitar la voz de Scarlett Johansson.
El director ejecutivo de OpenAI, Sam Altman, declaró que la voz de ‘Sky' pertenecía a una actriz profesional diferente y que habían elegido la actriz de voz antes de contactar a Johansson.
Altman lamentó no haberse comunicado mejor con Johansson y mencionó que por respeto a ella habían dejado de usar la voz de ‘Sky' en sus productos.
Además, OpenAI enfatizó que la voz de IA en cuestión, ‘Sky', se desarrolló a partir de la voz de otra actriz, y creen que las voces de IA no deben imitar deliberadamente la voz distintiva de una celebridad.
Si bien los detalles específicos de las preocupaciones de Johansson siguen siendo privados, su reacción subraya las crecientes ansiedades en torno al posible uso indebido de las voces generadas por IA, particularmente para deepfakes u otros contenidos no consensuados.
La reciente expresión de conmoción e ira de Scarlett Johansson por una nueva voz de ChatGPT que se parece mucho a la suya ha iniciado una conversación más amplia sobre las implicaciones éticas de la inteligencia artificial y la tecnología de clonación de voz.
El auge de sofisticadas herramientas de inteligencia artificial ha hecho que sea cada vez más fácil replicar voces individuales, desdibujando la línea entre la realidad y la invención.
Esto ha hecho sonar las alarmas para figuras públicas como Johansson, que temen que sus voces puedan ser manipuladas y utilizadas sin su permiso, lo que podría dañar su reputación o incluso incitar al daño.
La cuestión del consentimiento y el control sobre la propia imagen en la era de la IA es compleja, con dimensiones legales y éticas que aún se están explorando.
A medida que la tecnología de IA continúa avanzando, se vuelve imperativo establecer salvaguardas sólidas para proteger a las personas de los daños potenciales de la clonación de voz y los deepfakes.
La reacción de Johansson ha resonado en muchos que comparten sus preocupaciones.
La posibilidad de que las voces generadas por la IA se utilicen con fines maliciosos, como difundir información errónea o cometer fraude, es una amenaza legítima que no se puede ignorar.
Es fundamental desarrollar directrices éticas y marcos legales que garanticen el uso responsable de la tecnología de voz de IA, respetando al mismo tiempo los derechos individuales y la privacidad.
La industria del entretenimiento, donde los actores de doblaje y los artistas intérpretes o ejecutantes dependen de sus identidades vocales únicas para su sustento, es particularmente vulnerable a los posibles impactos negativos de la clonación de voz mediante IA.
La capacidad de replicar voces sintéticamente podría socavar el valor del talento humano y la creatividad, provocando desplazamientos laborales y perturbaciones económicas.
Si bien la tecnología de voz de IA ofrece interesantes posibilidades para la innovación y la creatividad, es esencial abordar su desarrollo e implementación con cautela y previsión.
Lograr el equilibrio adecuado entre el avance tecnológico y las consideraciones éticas será crucial para garantizar que la IA sirva al bien común y, al mismo tiempo, proteja a las personas de posibles daños.
La reacción de Scarlett Johansson ante la nueva voz ChatGPT ha puesto en primer plano cuestiones importantes sobre las implicaciones éticas de la IA y la tecnología de clonación de voz.
La necesidad de un desarrollo y uso responsable de la IA, junto con salvaguardias sólidas para proteger los derechos individuales y la privacidad, es más apremiante que nunca.
A medida que la IA continúa evolucionando, es esencial entablar un diálogo abierto y reflexivo para garantizar que esta poderosa tecnología se aproveche en beneficio de la humanidad, al tiempo que se mitigan sus riesgos potenciales.
