¿Cómo debería lucir una Barbie en diferentes partes del mundo? Se le preguntó a la Inteligencia Artificial, ¡y la respuesta es fría, brutal y dañina! Un ejemplo de las desventajas de la inteligencia artificial como herramienta de salida sin supervisión.
Las herramientas de Inteligencia Artificial pueden caer en errores graves de representación y sesgos al crear contenido, todo debido a la naturaleza de sus algoritmos de aprendizaje. Recordemos que se nutren de nuestra información, incluso si esta es incorrecta o discriminatoria.
Es por eso que las herramientas de IA muy probablemente reflejarán las tendencias y prejuicios de nuestra sociedad, generando respuestas con estereotipos y desigualdades.
Además, las IA carecen de comprensión contextual y sentido común humanos, lo que puede llevar a interpretaciones erróneas de preguntas y a la creación de respuestas y contenidos inapropiados.
¿Definen las IA a las personas exitosas solo como blancas? ¿Y los personajes negativos como de raza negra o latina? Esto es lo que MidJourney, la inteligencia artificial de generación de imágenes, interpretó.
En cuanto a cómo sería una Barbie en distintas regiones del mundo, relegó a modelos de piel oscura, priorizando a las blancas (¡incluso optó por una rubia en México!), y para colmo incluyó detalles nazis al interpretar la versión alemana de Barbie.
Una de las más grandes desventajas de la inteligencia artificial es que si se usa como una herramienta de salida, confiando ciegamente en ella, los resultados pueden ser erróneos, sesgados e incluso desastrosos. Cada tarea debe ser supervisada por el ojo humano… porque después de todo, hasta el día de hoy, esa inteligencia no es tan inteligente emocionalmente.
Debemos esforzarnos en ser mejores como seres humanos, ya que las máquinas serán mejores como máquinas, y ahí es donde no podremos competir.
Seguridad y ética, desventajas de la inteligencia artificial
A pesar del potencial de los ciberataques y los deepfakes, la percepción de los riesgos es baja entre los consumidores. Como resultado, casi la mitad (49%) de ellos no se preocupa ante la posibilidad de que la IA generativa se utilice para crear noticias falsas. Los deepfakes pueden engañar a millones en redes sociales y difundir falacias a una velocidad pasmosa.
Por otro lado, apenas al 34% de los encuestados le preocupa los ataques de phishing. El phishing es una forma de ciberataque en la que los delincuentes intentan engañar a las personas para que revelen información personal, financiera o confidencial, como contraseñas, números de tarjetas de crédito, información bancaria u otros datos sensibles. Esto generalmente se hace mediante la creación de comunicaciones falsas que parecen legítimas.
La sensibilización de los consumidores en torno a los problemas éticos de la IA generativa también es baja, ya que solo el 33% se preocupa por cuestiones relacionadas con los derechos de autor e incluso menos (27%) se preocupa por el uso de algoritmos de IA generativa para copiar diseños o fórmulas de productos de la competencia.
Adicionalmente, la mayoría de las personas no es consciente de los sesgos que las aplicaciones pueden tener y por lo tanto, los contenidos que pueden generar, como vimos en el caso de Barbie.
El grado de conocimiento de la IA generativa entre los consumidores a nivel mundial es considerable, y la tasa de adopción ha sido masiva, sin embargo, la comprensión de cómo funciona esta tecnología y los riesgos que conlleva es todavía muy baja.
Niraj Parihar, CEO de Insights & Data Global Business Line e integrante del Comité Ejecutivo del Grupo en Capgemini.
Y añadió… “La IA generativa no es “inteligente” en sí misma; la inteligencia proviene de los expertos humanos a los que estas herramientas ayudarán y apoyarán. Por lo tanto, la clave del éxito, como con cualquier IA, son las salvaguardas que los humanos construyen a su alrededor para garantizar la calidad de sus resultados”.
Pero… ¿confían las personas en la herramientas de IA generativa?
A pesar de estas desventajas de la inteligencia artificial, la mayoría de las y los consumidores (51%) señala conocer las herramientas de inteligencia artificial (IA) generativa de primera generación (herramientas para crear contenido nuevo y original, como texto, imágenes, música) y haber hecho uso de ellas.
Más de la mitad de las personas en todas las generaciones, incluyendo a los baby boomers, han utilizado ya esta tecnología. Así lo indica el último informe del Instituto de Investigación Capgemini, “Por qué a los consumidores les encanta la IA generativa”, que analiza cómo los consumidores a nivel mundial utilizan las aplicaciones de IA generativa y cómo podría convertirse en la clave para acelerar el futuro digital de la sociedad.
Las plataformas de IA generativa se utilizan para actividades personales, laborales y cotidianas.
ChatGPT, DALL·E y MidJourney son buenos ejemplos de cómo los profesionales están sacando partido.
Más allá de ellas, más de la mitad de los encuestados (53%) confía en la IA generativa como ayuda para planificar sus finanzas.
A nivel mundial, el 67% de los consumidores indicó que podría aprovechar las ventajas que ofrece la IA generativa para obtener diagnósticos y consejos médicos.
Además, el 66% de los consumidores estaría dispuesto a obtener consejos de la IA generativa sobre relaciones personales o planes de vida y profesionales, de los cuales los baby boomers son el segmento de edad más propenso a utilizarla con este fin.
El 70% de los consumidores busca recomendaciones sobre productos y servicios
Prácticamente la mitad de los consumidores (43%) están dispuestos a que las organizaciones apliquen la IA generativa en todas las interacciones con sus clientes.
Esto representa una gran oportunidad para las empresas, ya que las herramientas de IA generativa ya son utilizadas por el 70% de los consumidores cuando buscan recomendaciones de nuevos productos y servicios, y la mayoría (64%) de los consumidores están dispuestos a realizar compras basándose en estas recomendaciones.
En Amazon, por ejemplo, la IA puede analizar datos y patrones de comportamiento de los usuarios para sugerir productos y personalizar anuncios para mostrarlos en el momento adecuado y en los lugares correctos.
El 67% de los consumidores, de todas las edades, prevé de manera positiva que la IA generativa será capaz de ofrecer recomendaciones personalizadas específicamente sobre moda y decoración del hogar.
De modo que pese a las desventajas de la inteligencia artificial, las personas confían casi ciegamente en ella, lo que la vuelve enormemente poderosa en la sociedad, pero también riesgosa.
Metodología
Para este informe, el Instituto de Investigación Capgemini realizó una encuesta cuantitativa a 10,000 consumidores mayores de 18 años en 13 países de América del Norte, Europa y Asia-Pacífico: Alemania, Australia, Canadá, España, los EE. UU., Francia, Italia, Japón, Noruega, los Países Bajos, el Reino Unido, Singapur y Suecia. El análisis social y de búsqueda sobre la percepción del consumidor en torno a la IA generativa se realizó en dos períodos: de abril de 2022 a marzo de 2023 para el análisis de búsqueda y de octubre de 2022 a abril de 2023 para el análisis social.
Se utilizaron herramientas de agregación de datos, como los datos de Google Keyword Planner, Talkwalker e investigación de escritorio. Las fuentes de datos, como las plataformas de redes sociales y los foros, se examinaron en varios idiomas: inglés, italiano, japonés, francés, español, alemán, holandés, portugués y sueco, y abarcaron varios países, incluyendo a Alemania, Australia, Canadá, España, los EE.UU., Francia, Italia, Japón, Noruega, los Países Bajos, el Reino Unido, Singapur y Suecia.
Si quieres mantenerte al día con artículos como este, que explican a detalle cómo crear y comunicar marcas que inspiren a sus audiencias y desarrollen mejores conexiones, puedes recibir los contenidos en la puerta de tu mail.
Y si necesitas una capacitación en marketing digital o una en reputación, o bien, asesoría para tu negocio échanos un grito. Amamos saber de ti.
Deja un comentario