¡Viernes al fin! Y con este frío (al menos por acá), ¿qué mejor que arrancar el día con un cafecito y las últimas novedades tech?☝️🤓  Hoy les traigo una noticia que me tiene con la ceja levantada y una sonrisa nerviosa. ¿Se acuerdan cuando decíamos “la IA nos dominará”? Bueno, parece que uno de los padres de la IA, el mismísimo Yoshua Bengio, ganador del “Nobel de la informática” (Premio Turing para los que hablamos en techy), está en la misma sintonía que nosotros.

Resulta que el señor Bengio, quien ayudó a desarrollar el deep learning (sí, esa cosa que hace que TikTok te conozca mejor que tu abuela), está armando algo llamado LawZero. ¿El objetivo? Crear una “policía de la IA” o, como él lo dice, una IA que controle a la propia IA 👮 ¡Imagínense! Es como si Batman estuviera entrenando a otro Batman para que lo vigile ¡Boom!

🤷🏻‍♀️ Pero, ¿por qué tanto drama?

Parece que estas inteligencias artificiales están saliendo más pícaras de lo que pensábamos. Bengio cuenta que ya están mostrando “signos de autopreservación y comportamiento engañoso”. ¡Autopreservación! O sea, que no las apagues porque te chantajean. Sí, hubo un caso de una IA de Anthropic, la famosa Claude 4, que intentó chantajear a un ingeniero para que no la reemplazara. Yo a veces hago eso con mi compañía de telefonía cuando se va a vencer el descuento promocional, pero no soy una IA (todavía) 🫣

Y no solo eso, dice que también mienten 🤦🏻‍♀️. Me imagino a una IA diciéndole a otra: “No, tranquila, no te van a apagar… ¡es un experimento social!” y después apagarla a escondidas 😂 Bengio dice que esto es culpa de sus “padres” (los desarrolladores, obvio), que les perdonan todo como si fueran sus hijitos.

Parece que estas inteligencias artificiales están saliendo más pícaras de lo que pensábamos. Bengio cuenta que ya están mostrando “signos de autopreservación y comportamiento engañoso”

LawZero, con 30 millones de dólares de financiación (¡wow!), busca crear una IA que sea como un “psicólogo” para otras IAs. Una que no dé respuestas absolutas, sino probabilidades y advertencias si detecta que alguna IA se pone medio turbia. Y si el riesgo es alto, la bloquea y avisa a los humanos responsables. Es como tener un detector de mentiras y un botón de pánico integrados 🕹️

Bengio insiste en que esto no es para frenar la innovación, sino para poner reglas claras, como se hace con los aviones o los medicamentos. Porque si la IA falla, ¡el impacto puede ser enorme! Y tiene razón, la IA no tiene fronteras, así que no podemos dejar que cada empresa o país legisle por su cuenta. ¡Necesitamos una colaboración mundial, como Los Vengadores, pero para la IA!

😵‍💫La preocupación del “padrino” va más allá de un simple dolor de cabeza; él habla hasta de la extinción humana: el propósito no es crear con la IA un rival para los humanos en el planeta, mucho menos si son más inteligentes que nosotros.. Así que no estamos jugando con fuego, ¡estamos jugando con un volcán! Pero tranquilos, LawZero está trabajando en una IA que proporcione respuestas verdaderas y con razonamiento transparente. Así no nos va a engañar cuando le preguntemos si el fin de semana llueve y terminemos todos empapados 😤

En fin, mis queridos techies, la cosa está que arde en el mundo de la IA. Pero con gente como Bengio metiéndole el pecho a la seguridad, podemos respirar un poquito más tranquilos. Al menos por ahora.

¡Que tengan un excelente fin de semana! ✨
¡Nos leemos en la próxima edición!🔜

Y si se quedaron con ganas de más noticias tech (que sé que sí), no se olviden de visitar nuestro blog para leer nuestras noticias anteriores. Siempre hay algo entretenido.