Y si las máquinas pudieran realizar lo que quieran, ¿qué?: la paradoja del holgazán albedrío en robots

Autor: | Posteado en Noticias Sin comentarios

Istock 488078143

Año 2043. Reino Unido es el último reducto de la WCC (Western Countries Confederation) en Europa, ante el imparable progreso del DAESH. Un dron de exploración británico hace un barrido por las orillas del Támesis. Con su sensor térmico detecta el progreso de un conjunto de soldados enemigos. Analiza y evalúa: 17 soldados, todos hombres (sabe eso debido a que analiza la apariencia de caminar, y la complexión y proporciones corporales), armados con armamento ligero y un lanzagranadas.

En milisegundos, manda las coordenadas del objetivo a distinto dron, esta ocasión a un bombardero X-54, quien, de mas reciente en otros escasos milisegundos, lanzará una lluvia de misiles encima los desdichados soldados Sin embargo, los sensores del dron de exploración detectan mas recientes enemigos. Entre las ruinas de lo que previamente fue la abadía de Westminster, avanzan 4 blindados autónomos de idiosincrasia T-95. Son un objetivo estratégicamente demasiado jugoso (cada tanque de este persona le cuesta al DAESH unos 2 millones de dólares), demasiado mas ameno que el conjunto de soldados.

Pero hay un problema. Los estrategas del DAESH descubrieron que había un persona de blindaje para sus carros de combate, demasiado mas efectivo que el usual blindaje reactivo: el ancestral escudo humano. El objetivo era confundir la inteligencia artificial de las armas autónomas enemigas o, tan mínimo, retrasar sus decisiones.

El cerebro positrónico de un dron de la WCC tomaba decisiones siguiendo a rajatabla la Convención de Massachusetts de 2036, en la que 136 países aprobaron un código ético mundial para armas autónomas, popular popularmente tan BH (el Bushido de HAL).

Según este código, un arma autónoma constantemente evitará el mas grande número de víctimas humanas posibles, por lo que a la hora de seleccionar el objetivo para un ataque, constantemente elegirá a otra arma autónoma previamente que a un conjunto de soldados. La táctica del DAESH consistía en atar a unos cuantos prisioneros, si pueden ser civiles mejor, a lo largo de la carrocería de sus tanques.

Entonces el dron tenía 2 opciones:

  1. Dirigir los misiles hacia el conjunto de 17 soldados. Todo correcto a altitud ético y legal: se mata a personas inconveniente aire soldados enemigos ocupando territorio soberano.

  2. Dirigir los misiles hacia los T-95. Se ocasionarían víctimas humanas del acreditado bando, generando intencionalmente daños colaterales y, por lo tanto, violando claramente el BH. Sin embargo, extender aquellos carros enemigos supondría una ventaja decisiva en la lucha que, casi con total probabilidad, evitaría mas muertes que ocasionaría.

¿Qué hacer? ¿Violar tu acreditado código ético, o ser práctico y ganar la lucha haciendo, quizá, un achaque menor? El dron piensa y actúa: los blindados enemigos aire destruidos. Los programadores de la empresa Deep Mind encargados de diseñar el cerebro computerizado de la máquina dejaron una puerta anterior a través de la que los compradores podían reprogramar la conducta de su arma a su antojo.

Los oficiales del ejército británico lo tuvieron claro: ganar la lucha era lo 1º y unas cuantas bajas humanas, inclusive de civiles, se justificaban en empresa de favor estratégicos superiores.

Istock 499438915

La Batalla de Londres se venció e, igualmente que le pasó a Hitler acomodado un siglo antes, la invasión de Gran Bretaña fue un fracaso. El DAESH y la WCC llegaron a un armisticio temporal. Todo pareció salir don inclusive que se descubrió que 1 de los fallecidos utilizados tan escudos humanos era la hija de Walter Smithson, un influyente multimillonario, dueño de una de las cadenas de restaurantes mas importantes del mundo. El 2 de junio de 2044 interpuso una reclamacion al ejército británico por la acción de su dron.

Legalmente la reclamacion era enteramente correcta: el dron había desobedecido la Convención de Massachusetts ocasionando bajas civiles. Correcto pero, ¿quién era el encargado de la acción? Los ingenieros de Deep Mind se lavaron las manos: ellos habían programado el dron para no desobedecer la ley. Si el ejército inglés lo había reprogramado para hacerlo, no era culpa suya.

Todas las miradas apuntaron entonces al abstracto Pierce Montgomery, encargado de armas autónomas del ejército de su Majestad. Pero, en el acierto íntegramente indicaba que el laureado militar pagaría el pato, sus abogados utilizaron una sorprenderse estrategia: alegaron que el auténtico encargado era el dron, ya que había optado atacar a los civiles con total y absolutista holgazán albedrío.

¿Qué es el holgazán albedrío?

Istock 516593303

Definición de andar por casa: si nos hallamos ante la determinación de poseer que seleccionar entre A o B, podemos seleccionar A o B carente que ausencia ni nadie nos obligue a hacerlo. La vamos desgranando: ¿qué quiere expresar que exiguo o alguien nos obligue? Que alguien nos obligue lo entendemos demasiado don (alguien apuntándome con una pistola), inconveniente que “algo” nos obligue, ¿qué significa?

Un ejemplo: yo vuelvo a mi arquitectura a las 3 de la mañana y deseo abrir la puerta. Estoy enteramente borracho por lo que no atino a meter la llave por la cerradura. Yo quiero, deseo con toda mi alma abrir la puerta inconveniente algo, en este asunto la insalubre cuantía de etanol que fluye por mis venas y atonta mi cerebro, me evita realizar la acción que yo deseo hacer. En este caso, el alcohol es lo que llamamos un condicionante: exiguo que nos obliga, o tan mínimo inclina, a obrar de una determinada manera.

Es por eso que, en un juicio, los condicionantes se convierten en atenuantes. Los abogados de un presunto criminal aducen multitud de condicionantes para restar responsabilidad a las fechorías de su cliente. Un crimen empresa con premeditación y alevosía (es decir, con plena y total libertad) es castigado demasiado mas gravemente que distinto que se cometiera abajo los efectos del alcohol o con la salud mental dañada (por eso los abogados de las peli alegan acierto la locura transitoria).

Grandes filósofos tan Rousseau o Kant, entendían la libertad tan autonomía, es decir, tan darse normas a 1 mismo, constantemente que esas normas fueran fruto de una determinación racional

Incluso, los crímenes pasionales son, igualmente, carencia castigados que los cometidos a sangre fría, arguyendo que las emociones ofuscan o confunden nuestro holgazán albedrío y nos empujan a realizar actos que, en estado normal, no haríamos. Las emociones se consideran además condicionantes. Desde los antiguos griegos, un imperativo vital ha resultado constantemente no dejarse acarrear por las emociones, controlarlas.

Actuar libremente, no se basa en actuar guiándote ni por altos o bajos instintos (pasiones) ni por nadie distinto condicionante (cualquier persona de estado mental alterado) ¿Qué es entonces lo que impulsa a actuar libremente? Una de las instancias mas repetidas por la tradición occidental ha resultado la razón práctica o deliberativa. Tenemos una facultad mental que nos posibilita decidir entre A y B. Los condicionantes pueden influirla pero, en último término, es ella la que elige.

Grandes filósofos tan Rousseau o Kant, entendían la libertad tan autonomía, es decir, tan darse normas a 1 mismo, constantemente que esas normas fueran fruto de una determinación racional, es decir, hubieran resultado meditadas por nuestra motivo práctica. Si yo decido seleccionar A porque, posteriormente de pensarlo demasiado bien, creo que seleccionar A es lo mejor que puedo hacer, estaré obrando libremente. Perfecto, inconveniente aquí hay un débil inconveniente ¿De dónde aparecen las motivos a través de las cuales yo guío mi acción libre? ¿Elijo mis pensamientos, mis razonamientos, las creencias que me orientan en mi vida? Parece que no.

El psicólogo noramericano Daniel Wegner nos invita a realizar un simplísimo juego para demostrarlo: intentad no deducir en un oso blanco. Es difícil, anochecer o temprano el oso blanquecino volverá a emerger a nuestra remembranza consciente por demasiado que intentemos no deducir en él. En internet había una versión del juego llamado, con adicción originalidad, the game, que consistía, precisamente, en intentar no deducir de nadie metodo en el acreditado juego. Lo entretenido es que el as sería aquel que consiguiera descuidar que estaba jugando y, en en qué grado a tal, jamás sabría que había ganado.

El filósofo holandés Baruch Spinoza argumentaba que el holgazán albedrío es únicamente una ilusión ocasionada por nuestro transitorio entendimiento a la hora de conocer las causas de nuestra conducta

Entonces, si no elijo mis pensamientos y deseos y éstos determinan mis acciones, yo no elijo mis acciones… ¡No soy libre! Pero, ¿cómo es posible? ¡Yo siento que soy libre! Ahora semejante pienso en desplazar mi brazo y lo muevo… ¿cómo podríamos expresar que yo no lo estoy moviendo libremente? Porque el holgazán albedrío es una ilusión.

Spinoza Baruch Spinoza (1632-1677)

El filósofo holandés Baruch Spinoza argumentaba que el holgazán albedrío es únicamente una ilusión ocasionada por nuestro transitorio entendimiento a la hora de conocer las causas de nuestra conducta. Vamos a entenderlo con un ejemplo:

Juan asesina a su mujer disparándole con un revolver ¿Cuál fue la causa?

  • Causa 1: Juan halla a su mujer en la cama con un amante, por lo que decide libremente apretar el gatillo.

  • Causa 2: Luisa, la mujer de Juan, arriesgó demasiado al deducir que Juan no volvería actualidad del labor tan pronto. Si hubiese resultado mas prudente Juan no la hubiera descubierto con su amante.

  • Causa 3: Manuel, el jefe de Juan, se halla de buen cabreo porque el Getafe, su obtener de fútbol favorito, ha ganado hoy. Por eso deja salir a Juan una hora previamente del trabajo.

  • Causa 4: Martín, el entrenador del Getafe, decidió sacar en el 2º asamblea a un prometedor jugador de la cantera con el que habitualmente no cuenta. Ese jugador, al borde del minuto 90, metió el gol de la victoria.

  • Causa 5: Eloy, promesa de la cantera del Getafe, estuvo a acierto de abandonar su carrera futbolística debido a que no contaba para ausencia para los diversos entrenadores que habían adulterado por el equipo. Sin embargo, su padre habló con él y le convenció para que no abandonará.

  • Causa 6: Marcos, el padre de Eloy, quiso además ser futbolista profesional. Sin embargo, dejó demasiado en breve su carrera deportiva porque le ofrecieron un labor demasiado don desembolzado en una emergente empresa de informática observación Apple. Siempre se arrepintió de haber dejado el fútbol, por lo que constantemente animará a su hijo a que continúe.

Recapitulamos. Si alguien de estas causas no se hubieran dado, es demasiado factible que Juan no hubiese asesinado a su mujer. Todas estas causas están encadenadas tan piezas de dominó, de metodo que una es condición para la posterior (es un arquetipo del popular efecto mariposa) inconveniente podemos proclamar de mas condiciones aún:

  • Causa 7: Pedro, el dueño de la armería, pospuso sus vacaciones una semana más, por lo que Juan logró adquirír su revólver al no descubrir la armería cerrada.

  • Causa 8: Carlos, el adorador de Luisa, chocó accidentalmente con ella en el acierto caminaba distraído mirando los cuadros de un museo. Sin ese choque jamás se hubieran conocido.

Incluso podemos irnos a condiciones mas lejanas pero, igualmente, necesarias para que ocurriera el crimen:

  • Causa 9: los chinos inventan la pólvora y múltiples desarrollos tecnológicos van perfeccionando su utilización inclusive acudir al revólver a principios del Siglo XIX. Sin íntegramente ese progreso, Juan no hubiera podido aprovechar esa arma.

Y, mas a distancia aún, podemos acudir a causas que hunden sus raíces en la física mas elemental:

  • Causa 10: el oxígeno es indispensable tan comburente para que la pólvora explote y se produzca el disparo del revólver. Sin oxígeno en la atmósfera, jamás se podría haber disparado revólver cierto y, es más, la especie humana no existiría y la vida en la Tierra sería demasiado distinto a tan es ahora.

Tenemos 10 condiciones necesarias para que sucediera el asesinato pero, tan don podría realizar el catedrático tan ejercicio de creatividad narrativa, con un exiguo de imaginación podríamos deducir una infinitud mas (formando lo que en términos técnicos se llama nube causal). Sin embargo, decimos que el auténtico causante es, únicamente, el holgazán albedrío de Juan. A nadie se le ocurriría deducir que el culpable afuera el entrenador del Getafe, el dueño de la armería, los directivos de Apple o, mas disparatado aún… ¡el oxígeno!

¿Por qué decimos que fue Juan? Spinoza lo tenía demasiado claro: es imposible conocer todas las causas que tuvieron exiguo que visualizar con el crimen por lo que, simplificamos a lo bestia con nuestros estúpidos cerebros de primate, y seleccionamos unicamente una causa: el yo holgazán de Juan.

¿Sucesos aleatorios?

Istock 531316319

El cosmos está gobernado por una abanico de leyes naturales que, inclusive en este momento que sepamos, constantemente se han mantenido estables desde los orígenes de todo. Algunas de ellas, las mas poderosas, aire deterministas, es decir, se consuman constantemente y en íntegramente lugar, siendo imposible violarlas (por ejemplo, la gravedad). Otras, carente embargo, aire probabilísticas o estocásticas, es decir, que únicamente se consuman con un determinado grado de posibilidad (por ejemplo, fumar provoca cáncer de pulmón).

Si íntegramente lo que dirige nuestras vidas estuviese regido por leyes deterministas no habría lugar para el holgazán albedrío: tomaríamos nuestras decisiones de un metodo tan obligatorio tan el de una pelota cayendo hacia el suelo. Sin embargo, unos cuantos han visto en las leyes probabilistas una vía de escape.

Si nuestro cerebro no es una máquina determinista destino que en su movimiento participan procesos estocásticos, es factible que allí esté nuestra libertad, en el azar, en la aleatoriedad. Pero, ¿existen verdaderamente sucesos aleatorios? En el planeta a escala humana, parece que no, inconveniente en el planeta cuántico, algunos físicos nos dicen que sí (y otros que no).

Si nuestro cerebro no es una máquina determinista destino que en su movimiento participan procesos estocásticos, es factible que allí esté nuestra libertad, en el azar, en la aleatoriedad.

¿Qué es un suceso aleatorio? Aquel que ocurre carente una causa que lo determine de metodo que, inclusive conociendo todas las variables que se dan en el proceso, sea imposible predecir su comportamiento. En este sentido, un suceso aleatorio podría parecerse demasiado a un acto holgazán ya que, igualmente, el acto holgazán requiere no poseer una causa que lo determine, requiere ser una causa carente causa o incausada.

¿Es entonces un suceso aleatorio un acto libre? Lo sentimos inconveniente no. Que exiguo sea aleatorio únicamente implica 2 cosas:

  1. Que, aceptando la verdadera aleatoriedad cuántica, ocurre carente causa alguna, carente ausencia que determine su conducta. Pero eso no implica que sea fruto de una determinación libre. Aceptando que el lanzamiento de una moneda es un acto verdaderamente aleatorio, la moneda no toma ninguna decisión, no delibera ni planifica ni desea realizar ausencia siguiendo un propósito. La moneda no es holgazán de seleccionar cara ni cruz.

  2. Que, realmente, lo único que aprobación es que no somos capaces de predecir su comportamiento debido a nuestras limitaciones observacionales o cognitivas, y que el suceso sea, en último término, tan determinista tan cualquier otro. Estaríamos de mas reciente ante la ignorancia de Spinoza: que desconozcamos las causas de un suceso no implica que éste obre libremente.

No amigos, por la aleatoriedad no llegamos a la libertad. Y es que para que una acción sea holgazán necesitamos no que no esté determinada por ausencia destino que esté determinada por nuestra voluntad, por nuestras preferencias, valores, deseos… y los actos aleatorios, evidentemente, no lo están.

¿El Yo tan pilón de libertad?

Istock 467439059

Para que un acto sea holgazán tendremos que poseer un Yo, una instancia que, verdaderamente decida. Precisamente, el argumento actual mas en contra de que las máquinas aire libres es que no poseen un Yo, no poseen a nadie que decida en última instancia, únicamente siguen a rajatabla su programa, carente delegación violarlo jamás.

¿Y qué es el Yo? Pregunta complicada adonde las hubiere. Muchos lo han identificado con ciertos estados o fenómenos propios de nuestra mente: nuestra consciencia, nuestro “espacio interior” o subjetividad, nuestra sentience (capacidad de poseer sensaciones), o ya, en términos religiosos, nuestra alma o espíritu.

Sin embargo, la neurología moderna ha ido poniendo en jaque esta idea de Yo:

  1. El Yo no puede observarse de ninguna forma, ni siquiera utilizando la introspección. Si yo me analizo a mí semejante pensando, recordando o sintiendo, lo único que encuentro aire pensamientos, recuerdos o sentimientos, inconveniente de nadie metodo a ese sujeto que los tiene. Nadie jamás ha observado su yo ni el de nadie ¿En ciencia no ese eso harto para negar la existencia de algo?

  2. La neurología contemporánea no ha encontrado nadie lugar en el cerebro adonde pueda hallarse el módulo del Yo (aunque hay intentos demasiado loables). Las investigaciones apuntan mas a que cada elemento de la pericia consciente se procesa en dispares partes del cerebro. De hecho, 1 de los grandes inconvenientes de la neurología actual es el llamado binding problem: ¿cómo se integra y se sincroniza toda la info sensorial en una imagen mental coherente?

  3. Los populares experimentos de Benjamin Libet y numerosos otros posteriores, encima holgazán albedrío, muestran que los sujetos aire conscientes de tomar una determinación posteriormente de que la determinación haiga resultado tomada. La conclusión es enteramente revolucionaria: el Yo, si es que existe, no decide… por lo tanto, no posee ninguna concordancia con la libertad.

Desde luego, si el holgazán albedrío es una noción oscura, la de Yo no le va a la zaga… ¿Qué nos queda entonces? ¿Tenemos que renunciar a una idea tan central en nuestro planeta tan lo es la libertad?

El alegato del abstracto Montgomery

Volvemos a la historia de los drones asesinos. Cuando íntegramente parecía indicar que el encargado y, por lo tanto, culpable de íntegramente era el abstracto Montgomery, sus abogados elaboraron una sorprendente defensa: alegaron que el holgazán albedrío no existía, por lo que el abstracto Montgomery ordenando que sus drones violaran la convención de Massachusetts, era tan exiguo holgazán tan el dron ejecutando la orden. Entonces, o los 2 no aire libres y ninguno de ellos posee responsabilidad en la muerte de la hija de Smithson, o los 2 aire igualmente libres y entonces, el dron, ejecutor de la acción, es el genuino responsable.

El juez comenzó a ponerse nervioso. Si no existía el holgazán albedrío nadie sería encargado de ausencia por lo que el aparato judicial era un fraude… ¡Todo el labor de su vida no tenía sentido! ¡Tranquilícese señoría! – Repuso 1 de los abogados – Tal tan defendió el filósofo escocés David Hume, es factible compatibilizar una cierta idea de libertad con el determinismo físico.

Se trata de definir tan acción libre esa que no está en contra de las determinaciones de mi propia voluntad. Mis pensamientos, creencias, valores, etc. que causan mi acción están completa y absolutamente determinados por causas previos y yo no soy mas holgazán que el dron de combate.

Estoy, por decirlo en términos informáticos, programado de antemano por mi naturaleza y mi cultura. Sin embargo, si debido a éstas yo deseo seleccionar A, y exiguo circundante a mí me evita que yo lo elija, estará poniendo trabas a mi libertad e impidiendo que yo obre libremente. Por decirlo de otra forma: ser holgazán es delegación obrar conforme a lo que estoy determinado.

De este modo, podemos juzgar y condenar a cualquier criminal carente que el aparato judicial se venga abajo ¡Es factible justicia carente libertad! Por lo tanto, el dron, actúo siguiendo su programación carente que nadie se interpusiera entre su holgazán obrar y su objetivo, por lo que es culpable de sus actos.

Istock 474880282

La sentencia sorprendió al mundo: el 28 de agosto de 2044, el dron de combate de persona R-6 Alpha C con nº de bastidor 365889725E, fabricado y ensamblado en Taiwan por la Hongji Corporation, para la empresa Norteamericano Deep Mind, actualidad en dia en propiedad del ejército británico, fue el 1º robot de la historia juzgado y condenado en un juicio. El castigo fue ejemplar: desmontar el dron y reciclar sus piezas para otros drones, destruyendo de este modo su individualidad tan agente racional (el igual robótico a una condena a muerte).

No obstante, ni el abstracto Montgomery ni la empresa Deep Mind se fueron del íntegramente de rositas. El abstracto por reprogramar el dron para que pudiese violar la convención de Massachusetts, fue condenado por cómplice e inductor del asesinato. Se le degradó de su rango y se le condenó a acaecer 3 años en una prisión militar (si don al final, y de mas reciente por la habilidad de sus abogados, no cumplió ninguno).

A Deep Mind le cayó una cuantiosa multa por violar ciertas leyes de protección de software que prohibían vender código abierto encima ciertos artículos militares (si don al fin no pagó nada. Se declaró en bancarrota e incapaz de pagar, cambió su nombradía por Deep Neuron y se refundó, siendo actualidad en aniversario la empresa hegemónica en el esquema de drones de combate).

Pero lo mas ameno es que esa sentencia creó jurisprudencia y, en cuestión de escasas semanas, los tribunales de íntegramente el planeta estaban llenos de juicios en los que había inmiscuidos robots; y en cuestión de unos años, ya existía una rama del Derecho específica observación Derecho Computacional, en el que se intentaba legislar para clarificar íntegramente ésta dificultoso problemática referente de las máquinas criminales.

450 1000Sobre Santiago Sánchez-Migallón: Profesor de Filosofía atrapado en un bucle: fabricar una mente artificial, a la ocasión que fabrica la suya propia. Fracasó en entreambos proyectos, inconveniente tan el bucle está programado para detenerse únicamente en el acierto dé un resultado positivo, allí sigue, iteración tras iteración. Quizá no llegue a nadie lado, inconveniente dice que el sendero está siendo fascinante. Darwinista, laplaciano y criptoateo, se especializó en Filosofía de la Inteligencia Artificial, neurociencias y Filosofía de la Biología. Es por eso que unos cuantos lo caracterizan de filósofo ciberpunk, pese a que esa etiqueta le parece exiguo infantil. Adora a Turing y a Wittgenstein y, en general, detesta a los postmodernos. Es el dueño del Blog La Máquina de Von Neumann y colabora asiduamente en Hypérbole y en La Nueva Ilustración Evolucionista.

Fotos | iStock

También te recomendamos

El aniversario posteriormente de que podamos encaramar nuestro cerebro a un ordenador y replicarlo en distinto lado

Si pregunto mis dudas a Hacienda ¿estoy obligado a acatar su respuesta? Así funcionan las consultas vinculantes

Los orígenes evolutivos de la moral: ¿monos o dioses?


La noticia Y si las máquinas pudieran realizar lo que quieran, ¿qué?: la paradoja del holgazán albedrío en robots fue publicada originalmente en Xataka por Santiago Sánchez-Migallón .

Agrega tu comentario