En as zagueras decadas no son estadas pocas as peliculas que as maquinas i pillaban prou autonomía u mesmo se rebelaban contra os humanos: dende Blade Runner dica Artificial Intelligence, pasando por Robocop, Forbidden Planet, Biccentenial Man, I Robot u 2001: A Space Odissey (nombrando-ne nomás unas poquetas). Agora bien, os escenarios mesmo apoliticos que s’entrefilan en istas peliculas, ¿son motivaus? ¿pueden plegar as maquinas a fer-nos mal a esprés? Y si ye asinas, ¿cómo hemos de actuar y programar-las?
Antis d’entrar en istas custions, cal repasar una mica o que ye a moral a traviés d’un d’os suyos dilemas clasicos: ideyalismo vs. utilitarismo. Una moral ideyalista estableix bells principios basicos y universals, bellas normas u ideyas que toda persona -u ser con consciencia- ha de cumplir. Por cuentra, a moral utilitarista ye muito más flexible, y por un regular no sigue que un regle: fer o más gran bien t’o más gran numero de personas, encara que isto supose poder fer muito mal a minorías. Ta un utilitarista podríanos construyir un entivo que afogue y engarone as tierras y lugars de 5.000 personas si ye t’o beneficio de 1.000.000 de personas; ta un ideyalista, isto sería una esferra inasumible.
Si pensamos en bell prencipio que haiga d’estar universal, una posibilidat fesable ye o prencipio de «no matarás a garra persona». Muitos, en primeras, agafaríanos iste prencipio y lo feríanos nuestro, comportando-nos asinas d’una traza ideyalista. Manimenos, l’utilitarista tiene fácil o contraargumento: si una persona va a matar a atras cinco personas, y nusatros tenemos a posibilidat de matar a ista persona salvando asinas cinco vidas, ¿qué hemos de fer? Muitos d’os que en primeras nos decíbanos ideyalistas y prenébanos o prencipio de «no matarás a garra persona» dandaliamos allora, y mesmo pillamos posturas ideyalistas: si ye ta salvar cinco vidas, alavez sí que podríanos plegar a matar a una persona. Pero l’utilitarista encara no puet cantar victoria. L’ideyalista tamién puet ufrir-le contraargumentos: si matar a una persona ta salvar-ne cinco ye bien, ¿por qué no matamos a una persona sana ta sacar-le os suyos organos y asinas poder salvar a vida de cinco personas que amenistan ixe corazón, ixos rinyons u ixos livianos? Asinas asinas, mientras a historia d’a filosofía o debat ideyalismo-utilitarismo s’ha enreligau y s’ha embolicau en dilemas sin solución, si bien as posturas son claras: os ideyalistas creyen que bi ha bells prencipios basicos, os utilitaristas simplement s’achustan a las situacions.
Tornando t’as maquinas, a posibilidat de que istas se faigan más y más sofisticadas ha ubierto a puerta a la posibilidat de que puedan fer-nos mal. Y debant d’ixo, muitas vegadas s’ha esborrallau en as peliculas a necesidat d’una programación «ideyalista», ixo ye, a necesidat d’implementar-les bells prencipios, normas u ideyas basicas que no puedan violar. Talment l’eixemplo más famoso d’una propuesta de programación ideyalista sigan as leis d’Asimov, basada en tres regles que iste literato amostró en muitas d’as suyas novelas, y que apareixen en a saber-lo de peliculas:
1. Un robot no puet fer mal a un humano u, a traviés d’a suya inacción, permitir que un humano se faiga mal.
2. Un robot ha de obedeixer as ordens que les dan os humanos, fueras de quan isto supose incumplir a primera lei.
3. Un robot ha de proteixer a suya propia existencia, siempre que ista protección no s’enfrontine a las leis primera y segunda.
Parixe que, mientras istas leis se cumplan, no bi habrá garra problema con as maquinas, por muito intelichents que puedan plegar a estar-ne.
Manimenos, no ye tan fácil como ficar-les ista programación ideyalista. Esmaixinemos que somos indo por o Monrepós en l’auto automatico de Google y que de bote y voleyo una gran piedra caye debant de nusatros. L’auto de Google tiene dos opcions: (a) continar dreito y chocar-se, con a posibilidat de fer muito mal y mesmo de matar a os suyos ocupants, (b) chirar t’a zurda, an que pasa una colla de scouts con a posibilidat d’atropellar-los, de fer-les mal y mesmo de matar-los. ¿Qué ha de fer l’auto de Google? Si a l’auto de Google no le hésenos meso que os regles d’Asimov -u una programación ideyalista parellana- habría de responder a la primera lei: l’auto no puet fer mal a garra humano. Sin d’embargo, por a situación fortuita ha de fer-lo -a uns u a atros, pero no puet eslampar de fer mal a bellas personas. Como l’auto no ye disenyau ni presto ta istos casos, a suya acción podría estar qualsiquiera.
Iste eixemplo, popular y factible, ya nos amuestra una d’as primeras conclusions d’os estudios de moral en intelichencia artificial: as maquinas son cada vegada más presents en as nuestras vidas y cada vegada son más compleixas, y isto suposará que sin querer istas maquinas tiengan situacions án se veigan obligadas a fer mal a las personas.
Ta resolver ista situación, se puet proposar cambiar a ideya de programación de prencipios morals en as maquinas: ya no se trata de ficar-les bellas normas, ideyas u prencipios -ya que no podrán responder siempre a todas as situacions- sino d’achustar o suyo comportamiento seguntes a situación concreta. Se pasa d’una «programación ideyalista» a una «programación utilitarista». Asinas, l’auto de Google, en cuentas de responder a bells prencipios como as leis d’Asimov, ha de buscar en una base de datos de situacions parellanas (en velocidat, estau d’a carretera, etc.) y trobar a solución más optima ta fer o menos mal posible a la menor cantidat de chent. En atras parolas, ya que bellas personas han de salir feridas -u mesmo muertas-, a lo menos que’n sigan as menos posibles: «si cal que a maquina mate, a lo menos que mate bien». Iste tema ye muito delicau t’os incheniers y filosofos implicaus en ista mena de programación (por eixemplo: ¿han de tener a mesma valura as personas si as que son dentro de l’auto tienen 90 anyadas y os scouts que pasan por a zurda en tienen 10?).
Manimenos, ista «programación utilitarista» basada en pillar a información de casos particlars tampoco no ye buena de tot. Metendo atro eixemplo, Microsoft lanzó una cuenta de twitter d’intelichencia artificial que feba servir ista mena de programación: estió lo 24 de marzo d’iste anyo 2016 y se deciba Tay. A ista cuenta se le podeba fer qualsiquier demanda, y ista respondeba pillando a información d’o conchunto d’o rete social Twitter. En menos de 24 horas Microsoft habió de trancar Tay, dimpués de que beluna d’as suyas respuestas estase: «Hitler no fació cosa mala», «Hitler teneba razón. Odio a los chodigos» u que as feministas «arderían en l’infierno». Parixe pues, que tampoco no se puet dixar trigar a la intelichencia artificial d’una traza utilitarista seguntes as experiencias previas.
En l’actualidat, incheniers y filosofos son mirando de trobar a programación adequada de maquinas compleixas como l’auto de Google -pero tamién de drons automaticos u de maquinas hespitalarias- mirando d’achuntar istas dos menas de programación diferents: a utilitarista -muitas vegadas dita «d’abaixo ent’alto» [bottom-up] ya que parte d’as situacions particlars y casos parellanos- y a ideyalista -muitas vegadas dita «d’alto ent’abaixo» [top-down] ya que parti de principios u normas chenerals que dimpués s’aplican ta casos particlars.
Pero as conclusions que podríanos quitar de tot isto son as siguients:
• As maquinas son cada vegada más presents en as nuestras vidas y cada vegada son más compleixas. Isto fa que se dé situacions (pocas agora, pero irán a más) que as maquinas «sin querer» habrán de fer-ie mal a las personas.
• Ta que isto se regule d’a millor traza posible, ye menester programar actitutz morals en as maquinas. Isto no significa que as maquinas puedan estar morals y con habilidatz tipicament humanas u animals (conciencia, empatía…), como ye leitmotiv en muitas peliculas de sciencia ficción. Isto zaguero podrá estar u no pas, pero somos luent de saber-lo y de plegar-ie.
• Con tot y con ixo, no cal fer escenarios apocalipticos. Por meter un eixemplo, l’auto de Google nomás ha teniu un accident por a suya culpa, estió de febrers y chocó contra un autobús a menos de 3 km/h dimpués d’haber feito más de 1 millón de kilometros. Ixo no significa que no haigamos de pillar-nos o tema en serio. Asinas por eixemplo, en mayo o segundo accident d’ista mena d’autos (en iste caso o desenrollau por Tesla) causó la muerte a o suyo ocupant. Tesla argumentó que ye o primer accident d’iste auto suyo dimpués de haber feito 209 millons de kilometros, mientras que a meya d’accidents mortals en autos conducius por personas ye de un por 96 millons de kilometros.
• As situacions que han de concarar as maquinas tampoco no son nuevas. A diferencia ye que antis las resolveban por un regular os nuestros instintos, y agora con l’automatización de fainas como a conducción podemos anticipar-nos a istas situacions accidentals, habendo de responder, como contrapartida, a dilemas morals compleixos, como lo tradicional entre ideyalismo y utilitarismo, en a programación d’as maquinas.
En resumen, somos luent de desenrollar maquinas morals, pero ya tenemos a necesidat de programar actitutz y accions morals en as maquinas, habendo de concarar os problemas y dilemas clasicos d’a moral y d’a filosofía.
Más información (en espanyol):
Podcast en ‘Aragón Fin de Semana’ (Aragón Radio):
https://archive.org/details/MoralArtificial
Programa en ‘En Ruta con la Ciencia’ (Aragón Televisión):
http://alacarta.aragontelevision.es/programas/en-ruta-con-la-ciencia/cap-21-27042016-2310