15 de mayo de 2023

 “Algo increíble está sucediendo en el mundo de la inteligencia artificial, y no es del todo bueno”, escribió hace seis meses Gary Marcus, una de las principales voces en el debate sobre la IA en la actualidad. A su juicio, el lanzamiento de ChatGPT nos lleva al “momento Jurassic Park” de las máquinas: la posibilidad —como en la película de Steven Spielberg— de que la situación se salga de control. “Cuando escribí este artículo, creo que la gente pensó que estaba loco o que era alarmista”, dijo Marcus en una entrevista con la BBC. Pero en 2023, empezaron a proliferar serios problemas con este tipo de inteligencia artificial: en marzo, en Bélgica, un hombre que hablaba frecuentemente con el chatbot Eliza, de la empresa Chai, se suicidó. Asesinato por chatbot La esposa del hombre sostiene que el contacto con el programa lo llevó a quitarse la vida, y para el gobierno belga, el caso es “un precedente que debe tomarse en serio” y “el peligro del uso [de la inteligencia artificial] es una realidad que debe ser considerada”. Era un escenario posible descrito cuatro meses antes por Marcus en un artículo para la revista Wired: “¿Quizás un chatbot lastimará a alguien tan profundamente que la persona se verá impulsada a terminar con su vida? (…) En 2023, podemos ver nuestro primer asesinato por un chatbot”. “Creo que estos sistemas pueden ser muy destructivos. Y parte de la razón del potencial de destrucción es que no son confiables. Estos programas pueden inventar algo y decirle [al usuario] que es un hecho. Y también pueden ser usados por personas para ese fin”, dice Marcus. “Los sistemas de inteligencia artificial que tenemos ahora no están bien controlados. Todavía no es una situación terrible, pero la gente les está dando cada vez más poder. Y no sabemos qué pueden hacer esos sistemas en una situación determinada”. Siete predicciones sombrías El año pasado, Marcus compiló “siete predicciones nefastas” sobre sistemas como ChatGPT, incluida que la versión más nueva del programa sería como un “toro en una tienda de porcelana, imprudente y difícil de controlar”. “Cometerá una cantidad significativa de errores alucinantes, en formas que son difíciles de predecir”. A fines de marzo, un caso extraño llamó la atención de los medios. Una persona le pidió a ChatGPT que nombrara a académicos involucrados en acoso sexual. La lista mencionaba a un profesor de derecho estadounidense, Jonathan Turley. El programa dijo que Turley hizo comentarios sexualmente sugerentes a una estudiante durante un viaje a Alaska y trató de tocarla. En la respuesta se citaba como evidencia un informe de 2018 del Washington Post. Pero nada de eso pasó: ni el viaje, ni el informe ni siquiera la acusación. Es como si el robot hubiera inventado la acusación. Creando información poco precisa OpenAI, la empresa detrás de ChatGPT, emitió un comunicado diciendo que el programa “no siempre genera respuestas precisas”. Para Marcus, “no tenemos ninguna garantía formal de que estos programas funcionen correctamente, incluso cuando hacen cálculos matemáticos”. “A veces son correctos, a veces no. La falta de control y fiabilidad son problemas que veo”. “Tu calculadora tradicional tiene garantizada una respuesta aritmética. Pero los grandes modelos de lenguaje no la tienen”. Se refiere al sistema detrás de ChatGPT, los LLM (modelos de lenguaje grande), que almacenan cantidades ingentes de datos y generan, a través de potentes algoritmos, respuestas de aproximación basadas en lo que ya han dicho los humanos. En resumen: un loro ultrasofisticado, pero que no tiene idea de lo que está hablando y, a veces, “alucina”, un término de la IA que designa una respuesta fuera de lo común, fuera de línea con las expectativas de los programadores. “Los LLM no son tan inteligentes, pero son peligrosos”, dice Marcus, quien también incluyó el aumento de los momentos alucinatorios de la IA en su lista de “predicciones oscuras”. Además de los generadores de texto, los programas que manipulan imágenes también evolucionan rápidamente. Recientemente, una foto del papa Francisco con una chaqueta plateada, realizada con el programa Midjourney, dejó confundido a internet por unas horas: ¿era real esa imagen? El episodio tuvo consecuencias inofensivas, pero fue una muestra del potencial para marcar el comienzo de una zona gris permanente entre los hechos y las falsificaciones. “Si no tomamos medidas, estamos cerca de entrar en un ambiente de posverdad”, dice el profesor de la Universidad de Nueva York. “Eso hace que todo sea muy difícil para la democracia. Necesitamos sanciones para quienes produzcan desinformación masiva, exigir marcas de agua para identificar de dónde proviene la información y crear nuevas tecnologías para detectar falsedades. Así como hay un programa antivirus, necesitamos un software antidesinformación”. “El capitalismo no resolverá estos problemas” Marcus, de 53 años, no se restringe al mundo académico. Le vendió una empresa a Uber y se convirtió en director de un laboratorio del departamento de inteligencia artificial del gigante de las aplicaciones de transporte. Dejó el cargo después de solo cuatro meses, en un momento en que la compañía enfrentaba acusaciones de mantener un entorno “tóxico”. Cuando se le consultó sobre si creía que el famoso mantra de Silicon Valley “muévete rápido y rompe cosas” y la competencia desenfrenada por los mercados fomentaban circunstancias peligrosas para el desarrollo de la inteligencia artificial, dice que “no es posible esperar que el capitalismo, por sí mismo, vaya a resolver estos problemas”. Defiende que las empresas están sujetas a regulación y cita el mercado de la aviación como ejemplo de que es algo necesario. “La industria de las aerolíneas en la década de 1950 era un desastre. Los aviones se estrellaban todo el tiempo. La regulación era buena para la industria de las aerolíneas. Al final hizo que la industria de las aerolíneas desarrollara un mejor producto”, dice. “Dejar las cosas a las empresas no conduce necesariamente en la dirección correcta… Hay una razón para que existan los gobiernos, ¿verdad?”. Entendimiento con el “padrino de la IA” La postura de cautela y de entusiasmo con desconfianza de Marcus por

En un intento por combatir uno de los actuales problemas de Internet en el presente, Google ha lanzado una nueva función para luchar contra los deepfakes. En meses recientes, las redes sociales se inundaron de imágenes creadas por herramientas de inteligencia artificial, como Midjourney. Desde el expresidente Donald Trump siendo arrestado violentamente en las calles de Nueva York hasta el Papa Francisco paseando con un abrigo blanco llamativo y a la moda. Este tipo de ilustraciones digitales se han vuelto cada vez más sofisticadas y parecidas a verdaderas fotografías. Y, en un intento por combatir uno de los actuales problemas de Internet en el presente, Google ha lanzado una nueva función para luchar contra los deepfakes. Esta función, llamada About This Image, promete ser un paso importante para comprender las imágenes falsas diseñadas para engañar a las personas o difundir desinformación. ¿De qué se trata esta función llamada About This Image? De acuerdo con la publicación en el blog de Google, la función mostrará tres cosas sobre las imágenes encontradas en la Búsqueda. En primer lugar, ofrecerá información sobre cuándo se indexó por primera vez la imagen en Google. También mostrará dónde apareció por primera vez en línea. Por último, revelará si aparece en lugares como redes sociales, sitios de noticias o incluso sitios de verificación. La explicación de Google, respaldada por el ejemplo que se muestra arriba, dice lo siguiente: “Con esta información de fondo sobre una imagen, podrás comprender mejor si una imagen es confiable o si debes mirarla dos veces”. La función About This Image estará disponible primero en Estados Unidos durante el verano. Podemos esperar que llegue a otras regiones antes de que termine el año. Esta innovadora herramienta de Google tiene como objetivo brindar transparencia y ayudar a los usuarios a discernir entre imágenes reales y deepfakes. Con el creciente problema de la desinformación en línea, esta función se convierte en una poderosa aliada para proteger la veracidad de la información en la era digital. https://www.eluniverso.com/larevista/tecnologia/de-que-se-trata-la-funcion-de-google-llamada-about-this-image-nota/

Retina y Kryndryl presentan un estudio sobre las tendencias que están transformando el sector de comercio minorista. En el vertiginoso mundo del comercio minorista, donde las tendencias se evaporan tan rápido como surgen, tres grandes fuerzas cambian las entrañas del sector. La más importante y con mayor tracción: la sostenibilidad, que ha encontrado un espacio de influencia en los pasillos de las tiendas y los escaparates iluminados en un momento de emergencia climática. Pero junto a ella también se encuentran la adopción de nuevas tecnologías, aquellas que llevan al cliente a una experiencia de consumo líquida (física y en línea), y una mayor interacción humana con el público. Porque a pesar de la pandemia y la revolución del comercio electrónico, uno de los grandes deseos del consumidor es encontrar un cómplice al otro lado del mostrador, alguien con quien compartir la pasión por el producto. “La transformación de la tienda se mueve en dos ejes que parecen bipolares”, afirmó Jaime García Cantero, director de Retina, durante la presentación de Retina Vision Retail, un análisis sobre la situación del comercio minorista realizado en colaboración con Kyndryl. Hoy, las empresas minoristas están empleando nuevas formas de pago que aceleran la experiencia y evitan fricciones en el proceso de compra, pero al mismo tiempo generan más trabajo para mucha gente. “Se eliminan puntos de roce y se aumenta el valor de una manera diferente”, señaló Cantero en el evento celebrado el pasado miércoles, donde se presentaron las conclusiones y tendencias del análisis. “Este cambio tecnológico tiene algo. La sostenibilidad es la tendencia con mayor impacto entre las empresas, según los resultados de este estudio que se basa en una encuesta hecha a una quincena de expertos de empresas minoristas con presencia en España. Es en este ámbito donde las firmas deben dar grandes saltos que, en ocasiones, parecen simples, pero que marcan la diferencia entre ser respetuosos o no con el medio ambiente. “Es necesario trabajar en una serie de acciones que comienzan con el cambio de papeleras, la gestión del consumo de electricidad en las tiendas, la reevaluación de la logística y el modelo de bolsitas, y la evaluación de su necesidad”, afirmó Patricia Alonso de Velasco, de Tendam. Hay que tener cuidado con aquello que es tendencia. “No hay que sumarse a la moda de querer ser medioambientalmente sostenible y llenarse de placas solares”, recomendó Delio Díaz García, director general de Ilunion Retail. Antes de lanzarse al ruedo, dijo Díaz García, lo primero es buscar el propósito de la firma y a partir de ahí construir la estrategia sostenible. “La sostenibilidad es una obligación para las compañías, pero se tiene que tener claro a dónde ir y qué se quiere hacer”, agregó David Marimón, directivo de Coca Cola European Partners. Este último experto indicó que el tamaño del negocio es un desafío al momento de virar. “Lanzarse a la piscina tiene un impacto global que cuesta implementarse”, detalló. La receta para conseguir un negocio más sostenible no es única. Para Pablo Sancho, director de Organización de Ale-Hop, lo importante es conocer las entrañas de la compañía y lo que ocurre fuera de ella. Hay que dejar que fluyan las preguntas y buscar la ayuda de los expertos para empaparse de las respuestas. Las firmas del sector no solo adoptan nuevos procesos socialmente responsables, sino que además son impulsores de esta ola de transformación. “Hay un tema de capilaridad: no solo tenemos que ser sostenibles nosotros, también el resto de la cadena (como los proveedores)… tenemos que hacer proselitismo y ser un agitador social en ese sentido”, comentó Mónica Prieto, de FNAC. Predicar con el ejemplo es una buena táctica para lograr un cambio profundo. Tal es el caso de We are knitters, una firma que ha recuperado la tradición de tejer. “Con la sostenibilidad tenemos una relación muy estrecha. Aportamos no solo con materiales, sino también predicando con la propia actividad. Es decir, tejiendo un jersey te das cuenta de lo que cuesta hacerlo”, explicó Alberto Bravo, director creativo de la empresa. Datos y confianza La confianza de un cliente lo es todo para un negocio. Pero, ¿cómo se gana y cómo se mantiene a lo largo del tiempo? La respuesta está en los datos y en el factor humano. La tecnología, por una parte, ofrece una personalización de los productos y servicios que es fundamental para mantener viva una relación. La máxima está en ofrecer al cliente lo que pida. Pero, por otra parte, está el factor humano que busca esa calidez y entusiasmo por un producto o servicio. “A la gente le gusta tener un buen trato con una persona que desborde pasión por una actividad, que tenga tiempo para interactuar, una conexión”, señaló Kiko León, de Decathlon. “Y automatizar algunos procesos [como los pagos] implica dedicarle más tiempo al cliente”, dijo. Y es allí donde la fórmula entre hombre y máquina cobra sentido. Pero todavía falta ir más allá. El sector en Europa ha retrasado inversiones en los últimos años. Por ello, tendrá que desembolsar anualmente entre 30.000 y 50.000 millones de dólares hasta 2030, según un cálculo hecho por Javier Romero Esteban, director del área de consumo de Kyndryl. “Algunas de estas inversiones tienen que ver con la experiencia en tienda, que es un elemento fundamental”, subrayó. El factor humano no solo está en el cliente, sino también dentro de la misma empresa. Así lo consideró Anaïs Durand, directora de Marketing y Comunicación de Tous, firma que ha forjado un proyecto formativo de artesanos, ante la escasez de expertos en la materia. “[En este sector] las manos se pierden. Para ello, hemos creado una escuela porque no encontrábamos a los artesanos que iban a reciclar las joyas… La industria misma nos ha llevado a este entorno de sostenibilidad”, afirmó en la presentación del estudio. https://elpais.com/economia/negocios/2023-05-14/tiendas-mas-humanas-y-sostenibles.html