Categoría: Professionals
Grado de dificultad: 2 (Cierto términos y nociones son más entendibles por especialistas).
Columnista: Roberto
Deep learning, la inteligencia facilista
Un tema recurrente en TMN
El tema de “la inteligencia artificial” es, lógicamente, recurrente en TMN. Sin embargo, no pretendemos ser especialistas en la materia.
Existen principios y algoritmos abundantemente descritos, hasta en Wikipedia:
Aunque existen bibliotecas enteras sobre este tema, el conocimiento que se tiene de él es muy superficial.
Pensamos que es, principalmente porque entra en conflicto con nuestra percepción de nosotros mismos, egoístas humanos.
Hay, sin embargo, algunas cosas que sabemos son muy poco probables. Y, para empezar, repitamos nuestra clásica corrección: ChatGPT o Gemini solo son autómatas conversacionales, sin “inteligencia”.
Estas herramientas usan el mismo artificio, que calificaremos de “facilista”:
Blob informático
Estamos consciente de que “facilista” es una calificación severa. Respetando el importante trabajo algorítmico sobre las redes neuronales, consideramos su uso actual perezoso descuidado …
… Porque la pretensión de “replicar” la red neuronal humana olvida una diferencia fundamental:
El sistema neuronal humano (o de cualquier otro ser vivo) es determinístico. No se construye ni se desarrolla en cualquier dirección.
Eso, por supuesto, implica una gran (¿enorme?) cantidad de limitaciones en cuanto a su forma de desarrollarse.
La descripción de las redes neuronales informáticas carece casi completamente de tales reglas.
Haciendo una comparación física, nuestro cerebro es a un automata conversacional lo que un animal vertebrado es a un blob.
Alucinaciones y engaños
Fantasmas, alucinaciones … Y bullshit
Aquí llegamos al límite de lo que conocemos o pudimos deducir. En consecuencia, toda interacción con estos autómatas requiere mucha prudencia.
Las que hemos tenido con ChatGPT, el copiloto de Windows, o con Gemini siempre fueron cuidadosas, llevándonos a extrañas reacciones.
AKA cuando un autómata conversacional usó expresiones que nos sorprendieron, se lo mencionamos en respuesta.
De manera sistemática, la máquina se puso a “alucinar”. Hemos publicado un artículo al respecto:
Nuestro columnista dejaba una duda … Que el siguiente y reciente estudio aclara de manera muy sarcástica:
Nota: este texto es largo y en inglés. Aunque recomendamos altamente su lectura, reconocemos que es un ejercicio dispendioso.
La siguiente presentación, por los mismos autores, es un interesante resumen de su estudio:
ChatGPT Isn’t ‘Hallucinating’—It’s Bullshitting!
Más engaño que inteligencia
Después de leer el estudio sobre ChatGPT (y sus parecidos), hemos llegado a una inquietante realización:
Para que estas máquinas mejoren, se necesita darles una “columna vertebral”. Es decir, todas las reglas y criterios necesarios para que sean capaces de evaluar la validez de sus datos.
Sin eso, no existe ninguna posibilidad para que estas máquinas empiecen a mostrar un inicio de inteligencia.
Y es donde surge el aspecto inquietante: parece que los diseñadores de estos autómatas lo están haciendo, en ciertas circunstancias.
Estas circunstancias son cuando alguien se da cuenta del popo de toro y enfrenta al autómata. Es algo que hemos experimentado en varias oportunidades, desconociendo que su modo de reacción era intencional.
AKA no es más un bullshit sino un engaño (bien pensado). ¿Qué tal que desplieguen la misma energía para volver estas máquinas más inteligentes?
Porque ya nos demostraron que lo saben hacer.
Leave A Comment