Resumen del libro Compatible con Humanos La Inteligencia Artificial y el Futuro del Control por Stuart Russell (Human Compatible)
Resumen corto: Human Compatible o en español Compatible con Humanos explica porque crear la superinteligencia podría ser lo último que hagamos cómo especie. La batalla por desarrollar la primera inteligencia artificial está dejando de lado el desarrollo de medidas de seguridad, y con ello es posible que lo que acabemos creando nos haga más daño que bien. Por Stuart Russell
¿Quién es Stuart Russell?
Stuart Russell es profesor de programación en la universidad de California Berkeley, y profesor de neurocirugía de la universidad de San Francisco. Es uno de los principales expertos en el campo de la inteligencia artificial y ha actuado cómo directivo del World Economic Forum en temas de inteligencia artificial y robótica. también es coautor del libro de texto más usado para el campo, AI – Artificial Intelligence A Modern Approach.
3 de las ideas principales del libro son:
- La inteligencia artificial hoy en día
- ¿Qué es la inteligencia?
- Máquinas beneficiosas
Colección de Los mejores libros de Productividad y Aprendizaje(PDF)
La inteligencia artificial hoy en día
Los ordenadores de hoy en día pueden procesar información a velocidades que nos cuesta imaginar. El ordenador más potente hoy en día, conocido cómo Summit Machine es capaz de superar la velocidad de procesado del cerebro humano, algo que le ha llevado casi 70 años al campo. Pero de ahí a poder hacer las mismas tareas que nosotros hay una diferencia
Los ordenadores pueden realizar cálculos más rápido que nosotros, también pueden resolver problemas siempre que se conozca el set de reglas que los controla, pero siguen teniendo dificultades cuando se trata de problemas complejos, cómo puede ser diferenciar que es un gato, y por ahora es imposible que destaquen en varios campos.
Los avances actuales han sido gracias al desarrollo de la inteligencia artificial. En concreto, el uso de la tecnología del deep learning que permite que los ordenadores creen código propio para resolver problemas, de forma que siempre que podamos explicar cual es la respuesta correcta, pueden llegar a hacerlo.
Pero debido a la metodología usada, aunque al final pueden ser mejores que nosotros con lo que hacen, también es cierto que se especifican tanto que no pueden aplicar su conocimiento a otras disciplinas.
Un ejemplo de tarea que les cuesta, es la de detectar las sutilezas del lenguaje. Es difícil que una máquina pueda entender lo que decimos a menos que se exprese directamente. Pueden responder a preguntas cómo ¿Cuándo murió Marco Aurelio? o ¿Quién fue Séneca? pero no pueden responder, y muchas veces nosotros tampoco, a preguntas cómo ¿Adivina porque estoy enfadado/a?
Aunque estos ejemplos indiquen que le falta bastante a la inteligencia artificial, la realidad es que sabemos tan poco del campo que no podemos medir la distancia real a la respuesta. Esto convierte el campo en uno de los más activos y a la vez con mayor impacto a corto y largo plazo.
¿Qué es la inteligencia?
Nos cuesta definir el concepto de inteligencia en humanos, hoy en día se suele operar con 8 tipos diferentes entre los que encontramos la capacidad de resolver problemas o coeficiente intelectual y la inteligencia emocional. Pero incluso en el caso de la inteligencia artificial, una creación principalmente humana, nos cuesta definir qué es la inteligencia.
Al principio cómo en nuestro caso, solo se consideraba la capacidad de resolver problemas, pero nuestra falta de comprensión hace que aunque la programemos para algo, puedan surgir complicaciones inesperadas. Este problema recibe el nombre del problema del rey Midas.
El rey Midas deseaba que todo lo que tocase se convirtiese en oro, pero de lo que no se dio cuenta fue esto incluia también su comida, e incluso a sus seres queridos. De forma que no acaba de cumplir del todo con el objetivo, le falta visión global.
Si por ejemplo le pedimos a la superinteligencia, inteligencia artificial capaz de realizar optimizar distintas tareas y realizar no solo lo que hacemos mejor, sino poder llegar a nuevos niveles, que cure el cáncer, podría inocular a todas las personas con cáncer para poder experimentar y encontrar una cura.
Si no tenemos cuidado con el desarrollo, podríamos acabar en la situación de especies cómo el gorila. Debido a los daños en sus hábitats el número de especies de gorilas que están en peligro de extinción son varios, y aunque es cierto que en los últimos años los intentos de recuperar la población han surtido efecto, también es cierto que dependen de nuestros antojos.
Podríamos pensar que si la apagamos sería suficiente para eliminar los posibles riesgos, pero la realidad es que aunque ni siquiera tendríamos la capacidad de apagarla. El desarrollo de la llamada superinteligencia nos pondría en la misma posición que los gorilas, animales que no tienen control alguno sobre el futuro de su especie.
Máquinas beneficiosas
El autor defiende que en lugar de desarrollar máquinas que sean inteligentes y puedan cumplir ciertos objetivos, es mejor que nos centremos en hacer máquinas que tengan el beneficio de la humanidad y los individuos cómo prioridad. En concreto nos recomienda tener en cuenta tres principios al diseñar programas de inteligencia artificial
1)La inteligencia artificial debería tener un único objetivo, maximizar las preferencias de los seres humanos. Es lo que el autor llama el principio del altruismo. Permite reducir la probabilidad de que acabemos con una inteligencia artificial que nos considere cómo un estorbo
2)El segundo principio es el de que la inteligencia artificial no debería conocer los intereses al principio del proceso. Esto se conoce cómo el principio de la humildad . El objetivo es que no se centre en un único objetivo sino que pueda adaptarse a medida que llegue nueva información. Esto evitaría que optimice una tarea hasta nuestra extinción y permite la posibilidad de que las apaguemos en caso de peligro.
3)El ultimo principio es que la base de información sobre nuestras preferencias sea el comportamiento humano. Si necesita feedback constante para saber si lo que hace nos gusta, evitamos que nos mate. Es lo que se conoce cómo el principio del aprendizaje.
Aunque estos principios no responden al problema de que es la inteligencia, permiten crear algo que, en principio, no debería erradicar a nuestra especie. Además al usar a los humanos cómo principal baremo, de forma indirecta se debería acercar más a cómo pensamos de forma que aunque no entendamos el concepto de inteligencia quizá podamos crear algo que la imite.
Los clientes que disfrutaron de este libro también disfrutaron de
