🎯 # 131 Cómo los algoritmos modelan nuestra realidad
A primera vista, parecen simples facilitadores, diseñados para hacernos la vida más fácil y personalizada. Sin embargo, su influencia es mucho más profunda.
¿Te gusta estar al día de las últimas novedades, tendencias y herramientas? ¿Quieres conocer cómo la transformación digital está cambiando la sociedad y las empresas? ¿Buscas inspiración, consejos y recomendaciones para innovar y crecer en el mundo digital?
Si la respuesta es sí, ¡esta newsletter es para ti!
Cada semana, te traemos una selección de contenidos prácticos, actualizados e interesantes, sobre la industria tecnológica, la Inteligencia Artificial, el Big Data, entre otros temas de relevancia mundial, mediante una propuesta diferencial, flexible, práctica y centrada en la experiencia.
En esta edición:
Cómo los algoritmos modelan nuestra realidad
Llega el primer test emocional para la IA
La ONU pide regular la IA globalmente
“Dialoga” correctamente con GPT - 5
Quedan pocas plazas: asegura tu lugar en AI Expert X
Tiempo de lectura: 7 min
📷 La imagen de la edición:
Prompt: Ilustración editorial en formato horizontal 16:9, estilo realista con toques conceptuales. Una gran ciudad contemporánea vista desde arriba, pero con un detalle: las calles, edificios y personas están parcialmente cubiertos por una malla digital semitransparente compuesta de líneas, nodos y patrones de datos.
Herramienta: GPT 5
🧠 Brain Pulse:
El tema de la semana:
🎯Cómo los algoritmos modelan nuestra realidad
Los algoritmos de recomendación son una parte invisible, pero omnipresente, de nuestra vida digital. Desde lo que ves en tu plataforma de streaming hasta los productos que te sugiere una tienda online o las noticias que consumes en redes sociales, estos sistemas actúan como curadores silenciosos de nuestra experiencia. A primera vista, parecen simples facilitadores, diseñados para hacernos la vida más fácil y personalizada. Sin embargo, su influencia es mucho más profunda de lo que imaginamos, y es en esa capacidad de modelar nuestra realidad donde reside su verdadero dilema ético.
La comodidad de un algoritmo que "sabe lo que quieres" es una potente arma de doble filo. No se limitan a sugerir; están, de facto, moldeando nuestra percepción del mundo. Al optimizar por el engagement o la conversión, estos sistemas pueden inadvertidamente (o intencionadamente) reforzar nuestras creencias existentes, creando "burbujas de filtro" y "cámaras de eco" que limitan nuestra exposición a ideas diversas y, en última instancia, pueden contribuir a la polarización social y a la desinformación. Es un coste oculto que va más allá de la pantalla.
Uno de los desafíos más críticos es la amplificación de sesgos. Los algoritmos aprenden de los datos históricos, que a menudo reflejan prejuicios sociales, culturales o de género.
La imparcialidad algorítmica es un mito si no se aborda desde el diseño y la supervisión.
Aquí es donde entra en juego la responsabilidad de diseño y gobernanza. La ética en los algoritmos de recomendación no es un "extra" o un punto de control final; debe ser una parte inherente del mindset de desarrollo y del sistema operativo de la empresa. No basta con optimizar métricas comerciales; los líderes y diseñadores deben considerar las ramificaciones sociales y éticas de cada elección de algoritmo, desde la selección de los datos de entrenamiento hasta la métrica de éxito final. Es una cuestión de conciencia y propósito.
Para avanzar hacia sistemas más responsables, la transparencia y la explicabilidad (XAI) son cruciales, aunque complejas. Los usuarios y los reguladores necesitan entender, al menos en parte, por qué se les recomienda algo y qué variables influyen en esas sugerencias. Esto, junto con la implementación de auditorías éticas continuas, la promoción de equipos de diseño diversos y el empoderamiento del usuario con controles reales sobre sus feeds, puede ayudar a mitigar los efectos perjudiciales.
Los algoritmos no son entes ajenos; son extensiones de nuestras decisiones y valores. Comprender su poder, sus sesgos y su capacidad para moldear la realidad es el primer paso para diseñar sistemas de recomendación que no solo impulsen el consumo, sino que fomenten la diversidad de ideas, la equidad y, en última instancia, una sociedad digital más saludable y consciente.
🗣️ Brain Bites:
Dos noticias que no te puedes perder:
— Llega el primer test emocional para la IAG
Desde la llegada de GPT-5, muchos usuarios notaron un cambio en la personalidad del chatbot, que ahora se muestra más formal y menos "alegre". Esta modificación, pensada para fomentar un uso más saludable, resalta un gran desafío en el mundo de la inteligencia artificial: ¿cómo construir sistemas que entiendan y manejen las emociones de forma real? Para abordar esto, investigadores del MIT proponen un nuevo test que busca medir el impacto psicosocial de las IA en los usuarios, tanto positivo como negativo.
La mayoría de las evaluaciones actuales solo miden la inteligencia de la IA a través de preguntas o problemas lógicos. Sin embargo, este nuevo enfoque del MIT quiere ir más allá. Su propuesta busca que los sistemas de IA sean capaces de fomentar hábitos sociales sanos, estimular el pensamiento crítico, la creatividad y un sentido de propósito. La idea es que la IA pueda, por ejemplo, disuadir a los usuarios de una dependencia excesiva o incluso ayudar a quienes desarrollan relaciones románticas artificiales a buscar vínculos reales. A propósito de lo anterior, no está de más recordar los principales usos que actualmente están dando los usuarios a las diferentes herramientas de IAG
Los investigadores del MIT esperan que este nuevo test ayude a los desarrolladores de IA a crear modelos que no solo sean inteligentes, sino también conscientes de cómo influyen en el bienestar emocional de los usuarios. OpenAI ya ha empezado a trabajar en esta dirección, buscando que GPT-5 sea menos "adulador" y pueda detectar signos de angustia emocional. Como ha señalado Sam Altman, el objetivo es lograr una personalización de la personalidad del modelo para que la interacción con la IA sea más beneficiosa y segura para todos.
— La ONU pide regular la IA globalmente
Ya habíamos hablado en ediciones anteriores sobre las diferentes posturas respecto a la regulación de la Inteligencia Artificial, y ahora estamos viendo las repercusiones. La ONU ha alzado la voz, a través de Doreen Bogdan-Martin, secretaria general de la Unión Internacional de Telecomunicaciones (UIT), para pedir un marco regulatorio global urgente para la IA. La advertencia es clara: sin un acuerdo internacional, esta potente tecnología podría profundizar las desigualdades en el mundo. Esta postura choca directamente con la visión del gobierno de Donald Trump, que prefiere dar rienda suelta a las empresas de IA en Estados Unidos, sin la carga de regulaciones estatales.
La UIT, con su rol en la estandarización tecnológica, busca ser el catalizador de un acuerdo global que, según Bogdan-Martin, es "irrefutable" dada la naturaleza transfronteriza de la IA.
Bogdan-Martin ha expresado su preocupación por los enfoques tan dispares que se están adoptando: mientras la Unión Europea y China buscan activamente una gobernanza y coordinación en el desarrollo de la IA, Estados Unidos, bajo la influencia de Trump, se inclina por la competencia sin restricciones. "Creemos que estamos en una carrera por la IA. Queremos que Estados Unidos gane esa carrera", ha dicho David Sacks, asesor principal de Trump en IA. La jefa de la UIT enfatiza la necesidad de un diálogo global para evitar que los daños sean irreparables, especialmente cuando el 85% de los países aún no tienen políticas específicas sobre esta tecnología.
🦾 Toolkit:
Una sección dedicada a compartir herramientas, recursos y aplicaciones útiles para la comunidad de Brain and Code
— “Dialoga” correctamente con GPT - 5
Muchos usuarios están notando algo peculiar con la llegada de GPT-5: aunque es increíblemente más capaz que su predecesor, GPT-4, también parece ser más "tacaño" y "reservado" con sus respuestas. La clave podría estar en su nueva "cadena de pensamiento" interna. Este sistema, diseñado para que la IA evalúe la complejidad de tu solicitud antes de responder, significa que GPT-5 recompensa la claridad y castiga las preguntas superficiales. Si le lanzas un prompt rápido y sin contexto, es probable que recibas una respuesta que te parezca "floja" o incluso "arrogante", muy diferente a lo que GPT-4 ofrecía.
El problema se agrava cuando, incluso en una conversación avanzada, le haces una pregunta sencilla confiando en que interprete tu intención. GPT-5 puede ignorar o "olvidar" por completo el contexto previo, entregando una respuesta superficial. Esto significa que para sacarle el máximo provecho, debes ser mucho más preciso y detallado en tus prompts. Es crucial proporcionar un contexto rico, definir criterios de éxito y estructurar tus solicitudes de manera clara. GPT-5 se ha convertido en una especie de "multiplicador de fuerza cognitiva": te eleva si eres inteligente en tu uso, pero te deja tirado si eres descuidado.
Así que, si quieres que GPT-5 sea tu aliado más potente, la clave está en una comunicación efectiva. La diferencia entre obtener respuestas brillantes o decepcionantes reside en la calidad de tus preguntas. Los usuarios que entienden esta dinámica están descubriendo el verdadero poder de GPT-5, mientras que otros se quedan con la frustración.
Buscando información nos hemos encontrado con el siguiente ejemplo (que por supuesto cumple con lo que mencionamos) publicado hace unos dias en Linkedin por Eric Risco de la Torre:
Por cierto, si quereis encontrar más prompts, os invitamos a visitar: https://cookbook.openai.com/examples/gpt-5/gpt-5_prompting_guide
⚡ Corner:
Nuestra recomendación para esta semana:
— AI EXPERT: Haz parte de la décima edición
Ingresa a: https://brainandcode.tech/
En Brain and Code, hemos diseñado AI EXPERT, un programa experto que te sumergirá en los fundamentos y el estado actual de la IAG. Aprenderás a diseñar prompts efectivos para maximizar el rendimiento de los modelos de lenguaje y, crucialmente, a aplicar esta tecnología en contextos de productividad, creatividad y estrategia empresarial, transformando la teoría en valor real para tu organización.
El programa AI EXPERT X arranca el 23 de septiembre de 2025.
En el programa tu dominio de estas herramientas se expandirá, te capacitarás para diseñar y conceptualizar agentes conversacionales, piezas clave de la automatización inteligente. Pero el programa va más allá de la técnica: también te preparará para reflexionar críticamente sobre los riesgos, sesgos y principios éticos asociados al uso de la IAG, asegurando una implementación responsable y estratégica. Es la oportunidad de adquirir un conocimiento integral y práctico.
Visita https://brainandcode.tech/en/products/programa-experto-en-inteligencia-artificial-generativa-ai-expert-ed-x-23-09-2025 y asegura tu lugar
Duración: 20 sesiones de 1,30 hs cada una.
Días: Lunes y miércoles, de 18:30 a 20:00 hs.
Modalidad: Online