{"id":73205,"date":"2023-08-15T18:06:16","date_gmt":"2023-08-15T18:06:16","guid":{"rendered":"https:\/\/www.abc.es\/ciencia\/alberto-sangiovanni-vincentelli-miedo-inteligencia-artificial-saber-20230728175012-nt.html"},"modified":"2023-08-15T18:06:16","modified_gmt":"2023-08-15T18:06:16","slug":"alberto-sangiovanni-vincentelli-lo-que-da-miedo-de-la-inteligencia-artificial-es-no-saber-de-antemano-la-respuesta-que-obtendras","status":"publish","type":"post","link":"http:\/\/forocilac.org\/en\/alberto-sangiovanni-vincentelli-lo-que-da-miedo-de-la-inteligencia-artificial-es-no-saber-de-antemano-la-respuesta-que-obtendras\/","title":{"rendered":"Alberto Sangiovanni Vincentelli: \u00abWhat is scary about artificial intelligence is not knowing in advance the answer you will get\u00bb"},"content":{"rendered":"<p>Que hoy tengamos toda la tecnolog\u00eda que poseemos a nuestra disposici\u00f3n es, en gran parte, su culpa. Porque Alberto Sangiovanni Vincentelli (Mil\u00e1n, Italia, 1947) transform\u00f3 radicalmente la forma en la que se constru\u00edan los chips , esos &#8216;cerebros artificiales&#8217; que hacen funcionar casi todas las cosas que tenemos alrededor, desde nuestros ordenadores a nuestros coches, pasando por marcapasos a casi cualquier producto el\u00e9ctrico. Todo ocurri\u00f3 en las d\u00e9cadas de los 70 y los 80, un momento en el que estos circuitos integrados se constru\u00edan de forma artesanal; \u00e9l ide\u00f3 la forma de automatizar el proceso, haci\u00e9ndolo m\u00e1s r\u00e1pido, sencillo y preciso. A partir de ah\u00ed, empresas como Intel, IBM o HP (para las que este doctor en Ingenier\u00eda El\u00e9ctrica y Ciencias de la Computaci\u00f3n tambi\u00e9n ha trabajado) crecieron como la espuma gracias a sus algoritmos, de libre uso. Hoy, Sangiovanni Vincentelli, sigue en activo: es autor de m\u00e1s de un millar de art\u00edculos cient\u00edficos, contin\u00faa impartiendo clases en la Universidad de California en Berkeley (aunque ChatGPT asegure que ya se ha jubilado) y mantiene su colaboraci\u00f3n con una de las empresas que fund\u00f3, Cadence, que junto a su otro &#8216;hijo&#8217; empresarial, Synopsys, son la base de la industria de los chips de silicio con cuna en Silicon Valley sobre la que pivota toda nuestra tecnolog\u00eda actual. Horas antes de recibir el Premio Fronteras del Conocimiento, desde la sede de la Fundaci\u00f3n BBVA, charla con ABC sobre pasado, presente y futuro de la industria. -\u00bfC\u00f3mo se le ocurri\u00f3 la idea original? -En la d\u00e9cada de los 70 la gente cortaba cada chip en un proceso largo y tedioso. La intenci\u00f3n era sustituir en lo posible la mano de obra humana con m\u00e9todos automatizados porque ten\u00eda varias ventajas. Primero, cuando tienes automatizado el proceso, la parte creativa mejora, porque puedes probar de forma m\u00e1s r\u00e1pida much\u00edsimas m\u00e1s aplicaciones diferentes. Por otro lado, cuando haces las cosas a mano es m\u00e1s probable cometer errores; sin embargo, si creas los chips con una herramienta que est\u00e1 probada, sabes que los fallos disminuir\u00e1n. Y, por \u00faltimo, y no menos importante, piensa que en un tel\u00e9fono m\u00f3vil hay m\u00e1s de 4.000 millones de transistores; multiplica por el n\u00famero de tel\u00e9fonos m\u00f3viles en el mundo. Ser\u00eda imposible producir tanto sin herramientas automatizadas. Es importante rese\u00f1ar que, para cada caso concreto, inventamos un algoritmo diferente, porque no es igual crear un chip para un autom\u00f3vil que para una calculadora. Noticia Relacionada estandar Si John Jumper, el &#8216;chico&#8217; de Google que podr\u00eda ganar un Nobel: \u00abCon AlphaFold2 sentimos que hab\u00edamos cambiado el mundo\u00bb Patricia Biosca Tiene menos de 40 a\u00f1os y ha creado junto con Demis Hassabis, jefe de DeepMind, un sistema basado en inteligencia artificial que ha supuesto una revoluci\u00f3n en la creaci\u00f3n de f\u00e1rmacos y la comprensi\u00f3n de enfermedades -Lo de la automatizaci\u00f3n siempre ha dado un poco de miedo, por aquello de que podr\u00eda quitarnos los puestos de trabajo. Ahora parece que a esa palabra le toma el relevo la inteligencia artificial. -Hay diferencias entre lo que nosotros hicimos y lo que la gente supone que es inteligencia artificial. Si se entiende desde la perspectiva de desempe\u00f1ar una tarea que el humano puede hacer, s\u00ed, en teor\u00eda eso es lo que hicimos; pero en nuestro caso fue crear algoritmos para resolver una tarea de forma matem\u00e1tica de la que ya sabes el resultado de antemano, no hacer algo de lo que no sabes cu\u00e1l ser\u00e1 la soluci\u00f3n. Ese es el campo del aprendizaje autom\u00e1tico, que es a lo que ahora la mayor\u00eda de la gente se refiere con inteligencia artificial. Pero esto es solo una rama que utiliza modelos estad\u00edsticos tan grandes que le ayudan a hacer predicciones. Esa es la parte que da miedo de la inteligencia artificial: la incertidumbre de la respuesta. Que no sabes de antemano la respuesta que obtendr\u00e1s. -Y no siempre acierta. -Lo que obtienes es algo que anticip\u00f3 por estad\u00edstica, que es algo as\u00ed como andar a ciegas e ir tocando todas las cosas hasta que das con la clave. Sin embargo, en nuestro caso es un proceso diferente: automatizamos una t\u00e9cnica de la que ya sabemos todos sus pasos y la m\u00e1quina la realiza de forma m\u00e1s precisa incluso que nosotros mismos. Hoy en d\u00eda existen sistemas que a\u00fanan ambas m\u00e9todos, como las herramientas para diagn\u00f3stico m\u00e9dico. Pero siempre est\u00e1n supervisadas por un doctor. Tambi\u00e9n son muy \u00fatiles en ciencia: actualmente se publican cientos y cientos de estudios y es casi imposible estar al d\u00eda. Si posees herramientas capaces de cribar todos estos trabajos y de encontrar los m\u00e1s relevantes para tu campo, pueden ser de gran ayuda. -\u00bfQu\u00e9 piensa sobre ChatGPT? -Est\u00e1 muy de moda porque es un modelo de lenguaje muy preciso. \u00bfPor qu\u00e9? Porque aprende de todo lo que est\u00e1 escrito y va incorporando conocimientos seg\u00fan se usa. Sin embargo, aunque el lenguaje es muy bueno, a veces se equivoca en el contenido. Y esto es un problema, porque obtienes respuestas que parecen reales, y que gramaticalmente est\u00e1n muy bien escritas, pero pueden no ser verdad. Es por ello que necesitas de tu propio juicio para verificarlo. Aunque el modelo sigue aprendiendo y hay gente que le dice &#8216;esto est\u00e1 bien&#8217;, &#8216;esto est\u00e1 mal&#8217;, realizando lo que se llama &#8216;aprendizaje de refuerzo con intervenci\u00f3n humana&#8217;, tendr\u00eda que haber muchas personas ingresando informaci\u00f3n correcta para que tuviese menos fallos. Noticia Relacionada estandar Si Steven Pinker: \u00abNo podemos tener un gobierno totalitario que obligue a la gente a dejar los combustibles f\u00f3siles\u00bb Isabel Miranda El psic\u00f3logo cognitivo y escritor descarta un apocalipsis generado por una IA, aunque s\u00ed cree que puede contribuir a un aumento de la desinformaci\u00f3n -Pero, en alg\u00fan momento, est\u00e1 tecnolog\u00eda mejorar\u00e1. \u00bfHasta d\u00f3nde podr\u00eda llegar? -Esta tecnolog\u00eda se nutre de inputs, que son entradas, que convierten en outputs, que son salidas. Si los inputs son incorrectos, los outputs tambi\u00e9n lo ser\u00e1n. El punto est\u00e1 en c\u00f3mo se seleccionan las entradas con las que se alimenta la herramienta. Incluso entre nosotros, los humanos, podemos decir mentiras: yo te puedo contar una historia y t\u00fa eres libre de creerme o no. Pero, \u00bfpor qu\u00e9 crees que lo que te estoy diciendo es verdad? Porque tengo credibilidad, porque publico muchos art\u00edculos\u2026 El verdadero problema de la inteligencia artificial est\u00e1 en que necesita de muchos inputs de calidad para ser certero, y hoy en d\u00eda estamos rodeados de noticias falsas. Por ejemplo, ChatGPT dice que soy profesor em\u00e9rito, algo que no es verdad, porque sigo en activo. \u00bfY por qu\u00e9 dice eso de m\u00ed? Probablemente porque tengo 75 a\u00f1os y la mayor\u00eda de las personas est\u00e1n jubiladas a esa edad. Tambi\u00e9n dijo que hab\u00eda ganado el Premio Nobel, cosa que no he hecho. -De m\u00ed asegura que soy directora de otro medio de comunicaci\u00f3n para el que nunca he trabajado. -Claro, y esto tiene sentido. John Schulman, un antiguo estudiante de Berkeley, fue quien ide\u00f3 este sistema en base a encontrar cu\u00e1l era la palabra m\u00e1s probable que llegase despu\u00e9s de una sucesi\u00f3n de palabras. As\u00ed es tambi\u00e9n c\u00f3mo se construyen las respuestas, desde el punto de vista del lenguaje. No son los primeros programas que puedes ver de predicci\u00f3n de texto, pero este da un paso m\u00e1s all\u00e1. -Adem\u00e1s de investigador, es fundador de dos empresas, Cadence y Synopsys, que en principio eran complementarias y acabaron siendo rivales. Al final, usted tuvo que elegir entre las dos. \u00bfNo fue un poco como elegir entre dos hijos? -S\u00ed, algo as\u00ed. No s\u00e9 si has visto &#8216;La decisi\u00f3n de Sophie&#8217;, con Meryl Streep, una pel\u00edcula basada en un libro maravilloso. Ella tiene que tomar la decisi\u00f3n de enviar a uno de sus dos hijos a un campo de concentraci\u00f3n. Y tuvo que elegir, porque si no habr\u00edan matado a ambos. Pero esta elecci\u00f3n la dej\u00f3 traumatizada. En cierto sentido me sent\u00ed as\u00ed: durante tres meses, todos los d\u00edas cambiaba de opini\u00f3n. Entonces, un amigo con el que trabaj\u00e9 mucho y fund\u00e9 ambas compa\u00f1\u00edas me dijo que me quedara con \u00e9l en Cadence. Es gracioso, porque unos a\u00f1os m\u00e1s tarde, \u00e9l se cambi\u00f3 a Synopsys. -Vaya\u2026 -No, estoy muy contento con mi elecci\u00f3n. Todav\u00eda estoy muy activo en la empresa y no me arrepiento. Adem\u00e1s, ambas son del mismo tama\u00f1o y tienen mucho \u00e9xito, as\u00ed que no podr\u00eda haber tomado una decisi\u00f3n equivocada. Pero en ese momento no lo sab\u00eda, claro\u2026<\/p>","protected":false},"excerpt":{"rendered":"<p>That today we have all the technology we have at our disposal is, in large part, its fault. Because Alberto Sangiovanni Vincentelli (Milan, Italy, 1947) radically transformed the way in which chips, those &#039;artificial brains&#039;, were built\u2026<\/p>","protected":false},"author":1,"featured_media":0,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[123],"tags":[],"class_list":{"0":"post-73205","1":"post","2":"type-post","3":"status-publish","4":"format-standard","6":"category-portal"},"aioseo_notices":[],"_links":{"self":[{"href":"http:\/\/forocilac.org\/en\/wp-json\/wp\/v2\/posts\/73205","targetHints":{"allow":["GET"]}}],"collection":[{"href":"http:\/\/forocilac.org\/en\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"http:\/\/forocilac.org\/en\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"http:\/\/forocilac.org\/en\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"http:\/\/forocilac.org\/en\/wp-json\/wp\/v2\/comments?post=73205"}],"version-history":[{"count":2,"href":"http:\/\/forocilac.org\/en\/wp-json\/wp\/v2\/posts\/73205\/revisions"}],"predecessor-version":[{"id":73230,"href":"http:\/\/forocilac.org\/en\/wp-json\/wp\/v2\/posts\/73205\/revisions\/73230"}],"wp:attachment":[{"href":"http:\/\/forocilac.org\/en\/wp-json\/wp\/v2\/media?parent=73205"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"http:\/\/forocilac.org\/en\/wp-json\/wp\/v2\/categories?post=73205"},{"taxonomy":"post_tag","embeddable":true,"href":"http:\/\/forocilac.org\/en\/wp-json\/wp\/v2\/tags?post=73205"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}