Stanley Kubrick sobre HAL y las máquinas conscientes

dave matando a hal porque queria vivir

Me sorprendió leer esta entrevista a Stanley Kubrick en 1968 y leer una frase que aún ahora puede ser vista como provocadora ¿máquinas conscientes? ¿silicon-based-emotions?

“In the specific case of HAL, he had an acute emotional crisis because he could not accept evidence of his own fallibility. The idea of neurotic computers is not uncommon — most advanced computer theorists believe that once you have a computer which is more intelligent than man and capable of learning by experience, it’s inevitable that it will develop an equivalent range of emotional reactions — fear, love, hate, envy, etc. Such a machine could eventually become as incomprehensible as a human being, and could, of course, have a nervous breakdown — as HAL did in the film.”

¿Que me gusta de esta frase? Básicamente la idea de que lo que nos hace únicos son nuestros ¿defectos? o ¿complejidades? y que esa unicidad pueda trasladarse a algo simplemente por su capacidad de cálculo es realmente fascinante.
Y al margen de esto, el post de Stephen Balkam me dió ganas de ver que logra Spike Jonze con Her, una historia de amor y si va hacia esa complejidad o profundidad o se queda mucho más por arriba que lo que había logrado Kubrick al mostrarnos una máquina que, en esa complejidad, quería protegerse y seguir aprendiendo.