No, no. Todos dispondremos de asistentes de inteligencia artificial y será como colaborar con un conjunto de individuos muy perspicaces. Solamente no serán individuos. Los humanos se sienten amenazados por esto, pero considero que deberíamos sentirnos entusiasmados. Lo que más me apasiona es colaborar con gente más perspicaz que yo, porque potencia tus propias capacidades.
Pero si las computadoras se vuelven superinteligentes, ¿por qué nos necesitarían?
No hay fundamento para pensar que debido a que los sistemas de IA sean inteligentes deseen dominarnos. La gente erra al imaginar que los sistemas de IA tendrán las mismas motivaciones que los humanos. Sencillamente no las tendrán. Los diseñaremos para que no las posean.
¿Y si los humanos no internalizamos esas motivaciones y los sistemas de superinteligencia terminan perjudicando a los humanos al buscar un objetivo con una sola mente? Como el ejemplo del filósofo Nick Bostrom de un sistema ideado para elaborar clips sin importar nada más, y que toma control del mundo para producir más.
Resultaría extremadamente vacuo levantar un sistema y no erigir ningún obstáculo. Sería como confeccionar un vehículo con un motor de 1,000 caballos sin frenos. La única manera de que los sistemas de IA sean controlables y seguros es suministrarles motores. Yo lo llamo IA regulada por metas. Se trata de una estructura inédita, de la que no poseemos ningún ejemplo por el momento.
¿Está trabajando en eso ahora?
Sí. El concepto es que la máquina tiene metas que debe satisfacer, y no puede producir nada que no cumpla con esas metas. Esas metas pueden llevar barreras para prevenir situaciones peligrosas o lo que sea. Así es como se construye seguro un sistema de IA.
¿Cree que vivirá para lamentar las consecuencias de la IA que ha contribuido a crear?
Si tuviera ese pensamiento, cesaría de hacer lo que hago.
Usted es un gran seguidor del jazz. ¿Podría algo creado por la IA igualar la creatividad elitista y efusiva que hasta ahora solamente pueden producir los humanos? ¿Puede generar obras con alma?
La replica es complicada. Sí, en el sentido de que los sistemas de IA acabarán produciendo música, o artes visuales, o lo que sea, con una calidad técnica similar a la de los humanos, tal vez superior. Sin embargo, un sistema de IA no tiene la esencia de la música improvisada, que depende de la transmisión de estados de ánimo y emociones por parte de un ser humano. Al menos, todavía no. Por eso la música de jazz debe experimentarse en vivo.
No me ha respondido si esa música tendría alma.
Ya existe música que carece de alma. La colocan en los restaurantes como música ambiental. Son productos, producidos en su mayoría por máquinas. Y hay un mercado para eso.
Pero estoy hablando del clímax del arte. Si le pusiera una grabación que superara a Charlie Parker en su mejor momento, y luego le dijera que la generó una IA, ¿se sentiría engañado?
Sí y no. Sí, porque la música no es solamente una experiencia auditiva; gran parte de ella es cultural. Es admiración por el intérprete. Tu ejemplo sería como Milli Vanilli. La veracidad es una parte esencial de la experiencia artística.
Si los sistemas de IA fueran tan buenos como para igualar los logros artísticos de élite y no se conociera la historia de fondo, el mercado se desbordaría de música del nivel de Charlie Parker y no podríamos discernir la diferencia.
No veo ningún inconveniente en ello. Me quedaría con el original por la misma razón por la que seguiría comprando un recipientede 300 billetes producido manual que proviene de una cultura de cientos de años, aunque pueda adquirir algo que se vea prácticamente similar por 5 billetes. Aun así voy a presenciar a mis músicos de jazz preferidos en vivo, aunque se puedan imitar. Un sistema de IA no ofrece la misma vivencia.
Recientemente fue distinguido por el Presidente Macron que no puedo articular…
Chevalier de la Légion d’honneur [Caballero de la Legión de Honor]. Fue establecido por Napoleón. Es algo parecido al título de caballero en el Reino Unido, excepto que tuvimos una revolución. Por ello no nos referimos a la gente como “Sir”.
¿Viene con armamento?
No, no tiene espadas y cosas similares. Sin embargo, aquellos que lo poseen pueden portar una pequeña franja roja en la solapa.
¿Podría un diseño de IA alcanzar alguna vez ese premio?
A corto plazo, no. De todas maneras, no considero que fuera una buena idea.
