martes, 2 de diciembre de 2014

La ingenua antropomorfización de la inteligencia artificial

       Como es sabido, la mente humana tiene una fuerte inclinación a antropomorfizar los objetos. Vemos caras en las nubes, y cosas por el estilo. Esto debió haber sido una ventaja adaptativa en los albores de nuestra especie: como especie primate social, hubimos de estar muy pendiente de dónde y cómo interactúan nuestros semejantes, y así, es relativamente fácil atribuir agencia humana a cosas que no la tienen.
            En el campo de la robótica, inevitablemente también tenemos una fuerte tendencia a proyectar nuestra semblanza a las máquinas. Los carros tienen alguna reminiscencia de caras humanas, y a la hora de construir robots, muchas veces preferimos modelos antropomórficos, pero no necesariamente los más eficientes (en algunas instancias, la forma antropomórfica iría en detrimento de la eficiencia). Jenófanes decía que, si los caballos tuvieran dioses, ésos tendrían forma equina; bien podemos agregar que, si los perros construyeran robots, éstos tendrían forma canina.

            Ahora bien, a la hora de considerar los riesgos derivados de la inteligencia artificial y la robótica, existe la tentación de erróneamente hacer cálculos bajo la asunción de que los robots se comportarían como nosotros los humanos. El escenario de ciencia ficción predilecto, a la hora de considerar la amenaza de los robots, es marcadamente antropomórfico. A Hollywood le fascina presentar batallas entre ejércitos de robots y células guerrilleras de humanos, como si tratase de los nazis contra la resistencia francesa. Pensemos, por ejemplo, en Terminator y películas por el estilo.
            Asimismo, la ciencia ficción se deleita con atribuir emociones humanas a las máquinas, y termina por asumir que el motivo principal por el cual los robots podrían convertirse en una amenaza para nosotros, es debido al hecho de que, de repente, se liberan de su falsa conciencia como clase servil, y se disponen a dominar a sus antiguos amos. En estos escenarios, los robots serían algo así como Espartaco o Louverture: líderes sedientos de sangre que congregan a sus camaradas esclavos, y los incitan a una rebelión frente a la opresión humana. Fue este el escenario planteado por Karel Capek, en su obra R.U.R., la cual ha sido emulada desde entonces, por otros autores de ciencia ficción.
            Pero, todo este antropomorfismo podría ser peligroso, pues podría desviar nuestra atención respecto a cuáles son los verdaderos riesgos de la inteligencia artificial. Los robots ciertamente son una amenaza, pero no por los motivos antropomórficos que nosotros asumimos. Recientemente, el filósofo Nick Bostrom ha advertido sobre este peligro en su obra Superintelligence.
            Los robots podrían ser una amenaza a la especie humana, pero no porque desarrollen un resentimiento al sentirse explotados como clase servil. Es poco probable que los robots desarrollen por sí solos estas emociones, si nosotros no los programamos así desde el inicio. La amenaza vendría más bien del hecho de que, si los programamos para hacer labores técnicas eficientemente, los robots podrían concentrarse sólo en esa labor, y podrían llegar a interpretar que la propia existencia de la especie humana es un obstáculo para cumplir esa labor.
            Bostrom señala, por ejemplo, que si programamos a los robots para hacer clips de papel eficientemente, al final podrían intentar convertir toda la materia del universo en clips de papel, y eso implicaría usar los átomos de nuestros cuerpos para hacer con ellos más clips. O, en un escenario aún más bizarro, un robot podría ser programado para hacernos sonreír (como, de hecho, hay ya computadores con cierto sentido del humor), pero al final, podría interpretar que la forma más eficiente de lograr esto consiste en controlar los músculos de nuestras caras, y asegurarse de que nunca desaparezca una sonrisa de nuestra expresión facial. Terrorífico, ¿no?

            Ciertamente es terrorífico, pero precisamente, esto está muy lejos de la batalla campal entre androides y humanos, motivados por una lucha de liberación al estilo de Espartaco. La ciencia ficción cumple el propósito de hacernos ver que la inteligencia artificial tiene sus riesgos. Pero, la mala ciencia ficción puede cometer la torpeza de antropomorfizar los riesgos, y así, desviar la atención de lo que realmente puede acabar con nosotros, y no permitirnos tomar las adecuadas medidas para prevenirlo.

No hay comentarios:

Publicar un comentario