Carrito
El carrito está vacío.
141.-Moral-transformer

Hacia una moral Transformer

A veces siento que mi vida se volvió una gran sesión de terapia de grupo que siempre arranca en ‘Hola, soy Alejandro y me obsesiona hacer autos que se manejen solos’.

Desde que empezó la movida de los autos autocomandados (nombre horrible, si los hay), la gente ve más cerca un apocalipsis a lo Terminator y empieza a exigirle soluciones a los robots para cosas cuyo problema ni los humanos terminamos de entender.

El problema de los problemas me toca de frente cada vez que le grito a la licuadora por su incapacidad de detenerse en el punto justo entre un licuado con grumos y uno demasiado acuoso, pero se pone más interesante con el surgimiento de un planteo de moral robótica que me parece de lo más absurdo, palabra que intento no usar apresuradamente y que voy a tratar de justificar.

El ensayo es más o menos así:

Supongamos que viene un micro con 10 bebés, 15 gatitos y, por qué no, un mimo, bajando una montaña, en una vía de doble circulación, con la montaña de un lado y el precipicio del otro. Supongamos también que de frente (subiendo) viene un auto que se conduce solo, llevando a un señor de unos 40 años. Justo al momento del cruce, por una falla en el micro, el auto tiene dos posibles modos de acción: A) obliga al micro a tirarse al precipicio y se salva; o B) se tira al precipicio – asesinando a su conductor/pasajero – y salva a los bebés, los gatitos y al mimo.

Si mantenemos la hipótesis de que en el micro va un mimo, la decisión es fácil. Ahora, si lo sacamos de la ecuación la cosa se torna más oscura. ¿Tiene el robot que matar a su dueño o a la persona que lleva, siguiendo la lógica del mal menor? ¿O debería asegurar la vida de sus propios pasajeros ante todo?

Esta duda moral que se plantean los estudiosos (?) del tema tiene una falla enorme: juzgan al robot por cosas que los humanos no podemos siquiera discutir.  O, en otros términos ¿por qué le vamos a poner ‘moral robot’ a la ejecución robot de la moral humana? Sí, llegó ese momento terrible en que la ciencia y la ingeniería dejan de ser conceptos abstractos, lejanos, perfectos y mágicos y se enfrentan a un mundo real, con personas reales, gatitos reales y mimos reales, y, mal que nos pese, le vamos a tener que tirar un manotazo a la filosofía a ver si nos da una mano, cosa que, siendo uno ingeniero, lo hace sentir un cachito sucio. Pero bueh, qué sé yo, mal que nos pese, si escarbás y separás la paja del trigo (o el discurso meta discurso hiper recursivo paja del trigo), la filosofía está buenísima.

La pregunta que hago primero es: ante la misma situación, pero siendo el auto conducido por un humano, ¿qué haría el humano?

La respuesta es amplia. En primer lugar, porque el humano ni siquiera podría evaluar quién va en el otro auto. Luego, porque el humano no podría realizar ni por cerca un cálculo de daño en una fracción de segundo, como para entender cuál es el mal menor. Tercero, porque el humano, por más entrenado que esté, muy probablemente siga su instinto de preservación y supervivencia (respuesta prácticamente automática, que no pasa por la razón, y que incluye untar al mimo, a los bebés y a los gatitos contra la ladera de una montaña).

Entonces, vuelvo al comienzo de la cuestión: ¿por qué le pedimos al robot que cumpla con una moral que ni siquiera nosotros podemos solucionar? Lo bueno es que, como si este problema fuese poco, agrego algo importante: en el caso de los robots nos podemos poner todos de acuerdo respecto a su accionar y decidir, en frío, pensando en el bien común, cómo debería actuar. Un ecuánime y calculador robot kantiano que valora la vida de mimos como si fuesen personas reales. ¿Distópico? Tal vez, pero el monorriel de la historia va directo en esa dirección.

Como la ingeniería me pesa, hablar de ciencia y de filosofía no me alcanza y necesito ensayar algún tipo de solución, que el auto no se maneja con teoría y discurso (Ingeniería wins, flawless victory). Podríamos hacer una ley que indique que el robot que conduce debe evaluar el daño y minimizar el riesgo humano. Podríamos hasta ponerle valores en los cuales prevalezcan la vida de los más jóvenes (bebés), luego gatitos (todos amamos los gatitos) y, al final de la cadena, los mimos. Inclusive, y esto es sólo una idea para abrir el debate, podríamos programar al robot para que si ve un mimo, le entre derecho a la altura del esternón.

Pasted image at 2016_03_15 12_45 PM

Aká, sho, con mi atropellador de mimos

El problema sigue siendo el mi(s)mo, y es el enfrentamiento parejo entre el nosotros que piensa en términos de lo que haría y el nosotros que haría, posta. Entonces, la discusión pasa a tener que ver con nuestra sensación de control, de libertad y hasta de intimidad sobre una decisión. ¿Es menos mía la decisión si la programo en un algoritmo para que el auto desacomode al mimo que si soy yo el que gira el volante para agarrarlo de lleno? ¿Voy a tener pesadillas con esa última línea de código que hizo que le pasara por encima al carrito de bebé para evitar la manifestación de ancianas? ¿Que estas preguntas sean difíciles e incómodas, implica que tenemos que renunciar a la idea de vehículos autocomandados? Total, tan buenos no pueden ser.

O capaz que sí, capaz que los vehículos autocomandados tienen infinitas ventajas, entre ellas:

la reducción de la siniestralidad de hasta un 90% –90 de cada 100 accidentes que suceden tienen origen en la estupidez natural, cosa que la inteligencia artificial arreglaría–;
la optimización del consumo energético –ahorro de frenado, optimización de velocidad crucero, etc.–;
balanceo de carga en vías de circulación –si los robots se ponen de acuerdo, se avisan por dónde van y no taponean la Panamericana dirección Buenos Aires a las 8AM–;
la no-necesidad de estacionamiento –el auto se maneja solo y, mientras no lo usamos puede dar servicio a otras personas (Uber Uber (?)) o irse de fiesta con sus otros amigos autos– se calcula que en un futuro de movilidad autónoma absoluta, con carsharing integrado se podría reducir la cantidad de autos al 20%.

Es acá donde, de nuevo, un ingeniero se pone profundamente incómodo (o profundamente pragmático, lo que pase primero). Es en este punto en el que la tecnología, una vez más, se hace carne y es el hombre que hace a la máquina el que, en una suerte de mancha venenosa moral, le transfiere sus prioridades y su noción de bien y mal a un sistema para que ejecute decisiones que nosotros no podemos tomar. Decisiones que, en una de esas, son hasta mejores que las que tomaríamos nosotros, limitados por toda esta urgencia de seguir existiendo, por más bebés, ancianas y mimos con los que haya que embadurnar el paragolpes para lograrlo.

Avanzar no solamente implica respuestas, inventos, iPads, televisores enormes que todo el mundo ve y Google Glasses que nadie, nadie, nadie usa y te hacen lucir más bien tirando a boludo; sino que implica preguntas. A veces las preguntas son nuevas, a veces son tan viejas que duelen. ¿Qué está bien y qué está mal? ¿Cuánto mal vamos a soportar en función de cuánto bien? ¿Quién corno decide cuál es el vector y cuánto vale cada gatito?

Filosofía, no te quiero meter presión, pero somos un montón de científicos e ingenieros esperando una respuesta. Siempre quisiste que te tomáramos en serio. Bueno, es tu momento. No nos falles ahora.

 

PD: en esta nota ningún mimo fue maltratado.

 

http://arxiv.org/abs/1510.03346
http://www.sciencedaily.com/releases/2015/06/150615124719.htm
http://www.scientificamerican.com/article/self-driving-cars-could-cut-greenhouse-gas-pollution/
http://www.computerworld.com/article/2486635/emerging-technology/self-driving-cars-could-save-more-than-21-700-lives-450b-a-year.html
http://www.cnet.com/news/will-self-driving-cars-be-programmed-to-kill-you/

BONUS TRACK

 




Hay 42 comentarios

Añadir más
  1. RaulAndres

    La filosofía es la ingenieria de nuestra conciencia… Firma: YO recién acabo de humear un mañanero… excelente nota ideal para un philosophy raptor meme

    • Ale Mazinger

      Todo el planteo moral se basa en un defecto de fábrica. El auto tiene que tener el cosito para saltar que tenía Meteoro.
      Para otros planteos, me encantó como se la dejaste picando a la filosofía en el párrafo final.

  2. Pancho

    Ni un mimo para el mimo! Al menos déjenlo llevarse un gatito… para blancear la ecuación, que le toque el más cabrón, para que lo arañe cuando crezca.
    Muy buena nota. Los dilemas de siempre.
    Hace muchos años vi un artículo que exploraba algunas de esas cuestiones, pero a nivel de genética y clones, en donde un investigador (no recuerdo el nombre, sorry) decía que en pocos años estaríamos en condiciones de crear un ser humano perfecto, que no sabía cuándo íbamos a poder crearlos, pero que seguramente sería antes de que fuésemos capaces de definir qué ES un ser humano perfecto.

  3. Matias

    Al que escribió la nota.. Por casualidad estuviste el viernes pasado por la noche, tomando unas cervezas en un bar de colegiales?. En ese momento y lugar tuvimos una enérgica charla respecto a este mismo tema con unos amigos, y muchas de las conclusiones a las que intentábamos llegar están muy ligadas a tus comentarios!.
    Aun no pude decidir si tu punto de vista es mas cercano al que tenia yo o no.. (yo considero que la probabilidad de llegar a un escenario de solo 2 alternativas de decisión es mínima,casi nula, y en caso de llegar, tenes 50% y 50% .. o sea.. la decisión es indistinta). y por otro lado., porque entenderíamos que el vehículo autocomandado debería tener un apego emocional a su pasajero?. aah.. me olvidaba un detalle.. desde mi piunto de vista es imposible programar algo para que tenga en cuenta la posibilidad de ocurrencia de absolutamente todas las posibles combinaciones de los datos que obtiene de sus sensores, por tal motivo, el vehiculo autocomandado deberia de alguna manera “aprender” la diferencia entre un mimo y una persona.. e incluso… saber que si hay un abogado y un mimo en el autobus y la probabilidad de coliision es minima, el debe igual deshacerse irremediablemente de ese mal.

    Saludos

  4. Juan

    Nota entretenida, aunque dudo que las opciones siempre se puedan reducir solamente a dos. Tiene que haber algún algoritmo en el que los bebes, los gatitos y el señor de 40 se salven…

    Y no se bien porque… pero me siento un poco escéptico ante la declaración en la P.D.

    … Debe ser culpa de hablar tanto de filosofía

    Saludos!

  5. Elvio

    Excelente nota!! Trae el tema de las bases filosóficas y éticas de la Innovación Tecnológica, cosa que muchas veces no tenemos en cuenta, más allá de que un capo total como Asimov dió en la tecla hace rato con sus tres leyes de la robótica. Como toda innovación tecnológica, creo que los autos autocomandados van a pasar por un “filtro” de adaptación a la realidad y al de su aceptación social. Los hechos probarán su conveniencia, pero al día de hoy, creo que hay varios puntos a solucionar: ¿yo compraría un auto para poner en Uber? hoy no, de puro egoísta nomás, no pondría plata para compartirlo con desconocidos, aunque reciba alguna ganancia. ¿El estado haría una inversión en coches autocomandados para el transporte público? Difícil que el chancho chifle. ¿Es la solución energética y económica más eficiente para la movilidad de la gente? Creo que no, al estado del arte de hoy los trenes son el medio más eficiente. En cuanto a la experiencia de vehículos autocomandados, la aeronavegación es la que tiene más experiencia y desarrollo tecnológico, y hoy ningún avión deja de tener comandos manuales para situaciones críticas. Y después está el tema de la infraestructura: para que puedan funcionar bien, TODA la red vial debe estar en óptimo estado y bien diseñada. En la Argentina tenemos un gran déficit de mantenimiento, deplorable estado del pavimento, y sobre todo una señalización que en muchos casos es la que genera los accidentes. El diseño de muchos empalmes desafía las leyes de la física: curvas imposibles, empalmes locos, carteles viales inútiles que distraen la atención (no solo publicitarios, en la ruta 2 y 11 hay no menos de diez pares de carteles que dicen “Respete velocidad precautoria, Ley XXXXX” y “En caso de humo reduzca velocidad” sin decir cual es esa velocidad ni a cuanto hay que reducirla, sólo distraen al conductor. En fin, soy un apasionado de la innovación tecnológica, pero a este tema de los coches autocomandados no le veo la punta del ovillo, aunque ojalá estos desarrollos tengan otras aplicaciones.

  6. Asimov

    It’s easy:
    1) Un robot no hará daño a un ser humano o, por inacción, permitir que un ser humano sufra daño.
    2) Un robot debe obedecer las órdenes dadas por los seres humanos, excepto si estas órdenes entrasen en conflicto con la 1ª Ley.
    3) Un robot debe proteger su propia existencia en la medida en que esta protección no entre en conflicto con la 1ª o la 2ª Ley.

    Para ampliación de los posibles conflictos, leer 30 libros del tema.

  7. David

    “a la filosofía a ver si nos da una mano, cosa que, siendo uno ingeniero, lo hace sentir a uno un cachito sucio”
    No debería, consideremos que la ciencia -toda sin excepción- está cimentada en postulados filosóficos (y metafísicos, para tu mayor pesar: ¿Qué es la realidad? lo que veo; ¿Cómo conocemos la realidad? empíricamente… si esos principios son invalidados -y en la historia hubo infinidad de intentos de tumbarlos- todo el castillo de naipes construido por la ciencia se desploma) Pensá realmente cuántos fundamentos de la ciencia vienen de la ciencia misma, y cuántos de la filosofía: criterios de verdad, método científico, racionalidad, empirismo. Son cosas que toma la ciencia, pero todas fueron planteos filosóficos en su origen. Por eso, no debería darte pudor admitir que es necesaria; y sumamente útil. Además, considerando lo hábiles que son mis colegas en cuestiones argumentativas y el desprecio generalizado que tienen hacia la mano que les da de comer (aka filosofía) la ciencia per se no podría haber resistido los intentos de demolerla como sistema filosófico (sí, hay que admitir que la realidad, según vos es un robot y según yo una molécula de ADN pero es real porque está ahí y puedo verla, urgar en ella, deconstruirla y reconstruirla sin más ayuda que la de mis sentidos y mi racionalidad y sin invocar explicaciones extrahumanas).

    La respuesta que un filósofo podría darte con respecto al auto podría ser construir un auto que salga volando, deje circular al micro y preserve todas las vidas involucradas. Capaz estaría bueno preguntarle lo mismo a un ingeniero que sepa filosofía y no a un filósofo que sepa de ingeniería. Capaz el tipo la tiene más clara en cuento a los límites de la robotica y de esa inteligencia artificial que haga juicios éticos en función de alguna moral que le programemos (no hay muchos sistemas morales para elegir programar el robot: básicamente tenemos la moral de las tres grandes religiones modernas con más o menos variantes).

    Personalmente, pienso que existe una respuesta a ese dilema, quizá no sea la mejor que la seguimos aplicando y hay muy poca discusión al respecto: “mujeres y niños primero”. Los gatitos que se mueran, acá entraríamos discutiendo sobre la empatía, y deberíamos preguntarnos si lo que se sentimos por otra especie es lo mismo que sentimos al ver la foto de la nena ardida con napalm o si sólo es ternura y dejamos de sentirlo una vez que dejamos de ver al gatito? Podríamos considerar lo mismo del mimo, si somos capaces de reconocer un atisbo de humanidad detrás de esa pintura grotesca y sus acciones ridículas. Son demasiadas consideraciones a tener en cuenta. Espero ya estar muerto el día que una AI haya resuelto el problema de si la ética puede o debe ser absoluta.

  8. Leandro Casiraghi

    El mayor problema del utilitarismo es que se plantea las decisiones mayormente tomando en cuenta el supuesto “bien común” o “mal menor” que suele excluir de la ecuación a aquellos que sufren los males.
    Ejemplo. Cuando una persona muere en un accidente sufre 10 puntos. Sus tres familiares 10 puntos cada uno. Daño total 40 puntos.
    Cuando mueren 15 personas, cada una sufre 10 puntos, y sus respectivos 3 familiares 10 puntos más. Total 600 puntos.
    La concepción utilitarista es que el segundo caso es menos preferible al primero ya que se producen menos puntos de sufrimiento. Yo digo que esto es completamente falso desde el punto de vista digamos filosófico, porque cada individuo involucrado en la tragedia sufre 10 puntos, y no más dependiendo de los puntos totales. El tipo que se muere en el segundo accidente no sufre 15 veces más, ni ninguno de sus familiares (salvo que haya familiares compartidos que sufran más por perder más afectos). Por lo cual, desde el punto de vista de los involucrados, les chupa un soberano huevo cuántos se mueren a su lado.
    Visto así, el problema sólo se reduce al concepto social de la cantidad absoluta de sufrimiento producido, descartando que para el individuo no hay diferencias. La percepción social de la tragedia entonces determina cuál de los dos eventos es preferible. No importan aquellos que participan de la tragedia sino los que quedan fuera. Aquí es entonces donde todo se reduce a una decisión política, y no filosófica. Un gobierno debe ser utilitarista porque si no pierde elecciones. Un sistema de autos automanejados debe ser utilitarista para que un gobierno los legalice.
    Me extendería pero tampoco es para escribir una biblia. La nota está genial.

  9. Mati

    Y que sucedería si el tipo de 40 años, es un policía, capaz de salvar vidas, más que las que vienen en el colectivo, es negro y un actorazo, que desconfía y odia a los robots? se complica la cosa, pero da para una película, no?

    jaja muy buena la nota.

  10. Daniel

    Hay algo en la hipotesis que no me queda claro:

    el auto se conduce solo, y el micro tambien?
    Cual es la falla?
    Si la via es de doble circulacion hay espacio para ambos en direcciones opuestas. Entonces cual seria el problema ahi? Esquivarse? Que el micro, digamos que se quedo sin frenos, se pegue a la ladera para frenar?
    Si ambos son autonomos no podrian comunicarse entre si? Al fin y al cabo necesitan informacion externa (maps, gps, sensores, etc) por lo cual enviar una señal “guuuuarda que vengo!” A lo Rey Sol Marquesi no es imposible, por lo cual todos en un radio proximo (200 metros?) estarian advertidos de aminorar la velocidad y si van subiendo frenarse a medida que se acercan al micro.
    Minimizar los daños seria la premisa, un accidente recordemos que por definicion es algo asi como “lo no previsto”

  11. Pedro B.

    Pobres mimos…. jajajaja
    Imaginate subirte a tu auto y ya conectarte a la oficina, entonces la hora de viaje que tenes ya estas trabajando, llegas y en vez de 8 te queden por delante solo 6 y a la vuelta tenes la otra hora. El carsharing se ve una opcion muy interesante, pero quien serie el responsable del auto si este mata un mimo, el dueño o el hombre transportado? Para autos particulares lo veo dificil, si veria muy bueno para transportes de cargas. Y nocturnas, entonces ahi si ya solucionariamos muchos problemas

  12. Alexis Caporale

    Kant dijo que hay que “establecer los límites del conocimiento para darle lugar a la fe”.
    Ante la duda de a quién matar, culpar a Dios. Al que quieras.

  13. Sebastian

    Porque la filosofía nos habilita a “pisar” el instinto de autoconservación?
    Si sacamos el robot de la situación hipoteca tanto el conductor del colectivo como el del auto no tratarían por instinto de hacer lo necesario para seguir vivos y eso es lo que nos trajo a este punto, esa selección natural, supervivencia del mas fuerte en la que caemos cuando estamos en situaciones extremas.
    Porque un ser humano puede programar un algoritmo que permita que una persona muera a pesar de que su instinto sea vivir a costa de lo que se interponga en el camino.
    Y creo que el punto mas importante seria, porque un producto se diseñaría para producir un posible daño o muerte a su usuario a cambio de un bien mayor y que clase de persona pagaría por un auto que si viene un colectivo de frente lo tiraría a un barranco con tal de salvar un montón de desconocidos.

  14. NaN

    Creo que es buena ocasión para nombrar las Tres leyes de la robótica impuestas por Asimov:
    1.Un robot no hará daño a un ser humano o, por inacción, permitir que un ser humano sufra daño.
    2.Un robot debe obedecer las órdenes dadas por los seres humanos, excepto si estas órdenes entrasen en conflicto con la 1ª Ley.
    3.Un robot debe proteger su propia existencia en la medida en que esta protección no entre en conflicto con la 1ª o la 2ª Ley.1
    Como vemos… todas estas leyes fueron puestas y no cumplimos ninguna, como seres humanos no cumplimos ni 1/2.
    Bueno, si lo pensamos como creadores, creo que queremos mejorarnos a nosotros mismos moralmente hablando, es un buen camino al menos. Aunque realmente es confuso y sinceramente, probablemente si manejara yo, me tiraría al precipicio para salvar a los gatitos… pero bueno, yo soy yo.

    • PabloDemarchi

      Bueno, pero el mismo Asimov termina llegando más o menos (digo más o menos porque no me siento capacitado para dictaminar qué cuernos pasaba exactamente en la cabeza de Asimov) a la conclusión de que, tarde o temprano, las Tres Leyes de la Robótica traerían, como corolario, la necesidad de que los robots tomen el control total, porque la humanidad y sus decisiones -que habitualmente implican que un ser humano sufra daño- hacen imposible que las Tres Leyes se cumplan…

    • PabloDemarchi

      Respuesta a NAN:
      El mismo Asimov termina llegando más o menos (digo más o menos porque no me siento capacitado para dictaminar qué cuernos pasaba exactamente en la cabeza de Asimov) a la conclusión de que, tarde o temprano, las Tres Leyes de la Robótica traerían, como corolario, la necesidad de que los robots tomen el control total, porque la humanidad y sus decisiones -que habitualmente implican que un ser humano sufra daño- hacen imposible que las Tres Leyes se cumplan…

  15. horacio

    La decisión la toma la aseguradora que valide los algoritmos, si tenes el que minimiza el daño, el seguro es barato, si tenes el que te protege a toda costa y costo, el seguro será más caro.

    De todas formas, parece un camino tonto para finalmente pasarse a car sharing, o mejor dicho, transporte público.

    Hoy nuestros choferes humanos de ómnibus y taxis ya toman esas decisiones, con su propio criterio, y nos parece razonable. Si los autos autónomos terminarán siendo un servicio público y no de nuestra propiedad, es más aceptable pensar en que busque el mal menor en lugar de protegernos a nosotros. También bajarían las chances de sufrir un accidente.

  16. Matias

    Excelente nota y muy interesante planteamiento.
    Creo que la industria impulsara que el vehículo auto-comandado garantice la seguridad de su dueño por encima de la de los terceros por lo mismo que los vehículos actuales tienen 7 airbags y corren a 230km/h en lugar de tener un sensor inteligente e inhibidor de velocidad o de proximidad a otros vehículos.
    Muchos mencionaron las tres leyes de la rebotica de Asimov.
    Era lo que creía de chico que vería en el siglo 21.
    Incluso leí de adolescente varias novelas de la serie de Los Robots donde mencionan ya la ley cero y me pareció que era ese el planteamiento filosófico mas atrevido de la obra de ficción de este gran científico.
    Es genial que haya sido al mismo tiempo un gran escritor y un gran científico y haya de alguna manera fundado varios de los pilares de la robótica pero siempre entendí subliminalmente que al tiempo que parecía escribir las reglas nos estaba mostrando un escenario hiptético de perdida del libre albedrío. Entiendo que vio mas allá y decidió advertirnos.
    El hombre dejara de ser solo un hombre cuando construya una maquina que lo reemplace…

  17. Ceci

    Leí la nota dos veces, pero la segunda cambié la palabra mimos por gatitos y viceversa. El problema fue cuando llegué a la parte donde había 15 mimos en un bondi. Dejé de leer.

    Da para una nota específica sobre por que los mimos nos generan rechazo a (al parecer) muchísima gente?

    El artículo me resulta muy interesante, lo he pensado muchas veces, el tema es que dudo que alguien quiera hacerse cargo y decidir algo, porque después será responsable, forever and ever de la muerte de todos los gatitos atropellados (porque a los humanos nos encaaantan los chivos expiatorios, aunque seamos conscientes de que si hubieramos estado manejando nosotrxs probablemente hubieramos pisado al gatito).
    Hablando más seriamente, que tan lejos estamos de un “IEEE standard de manejo automatizado” o algo similar?

    PD: propongo que el próximo modelo se llame Aplanadora de mimos” o “Impresora de mimos 2D” “

  18. Ale Mazinger

    Todo el planteo moral se basa en un defecto de fábrica. El auto tiene que tener el cosito para saltar que tenía Meteoro.
    Para otros planteos, me encantó como se la dejaste picando a la filosofía en el párrafo final.

  19. Kusuk F.

    y si la decisión la toma el dueño del auto, algo así como cuando decidimos donar nuestras tripas , podemos decidir que es lo moralmente correcto dependiendo de cada caso, (aunque hay que ver el tema de la falla del micro por ahí se tira el auto y el micro (por la falla) se hecha un lansin de palomita hacia el precipicio). Pero quedándonos en el tema de el ensayo, la moral humana no es algo homogéneo, hay muchos altibajos así como hay gente muy caca y gente muy bondadosa, pro lo que creo que esa desicion debería tomarse con anterioridad, para programar el vehículo a las necesidades, prioridades y porque no gustos del conductor, así ademas de solucionar el tema de la moral, podemos poner una pelotita de espejos, o un dado fluorescente dependiendo del pasajero

  20. ZeOvo

    En un mundo de autos autocomandados (valga la redundancia) probablemente no existiría la situación donde un auto este por chocar un micro… Lo habría previsto y evitado el encuentro.
    Por cierto. Excelente nota.

  21. Marcos

    La moral en los vehículos autocomandados no se aplica a los misiles ¿por que hablar de autos suturos si tenemos ejemplos reales hoy?

  22. PabloDemarchi

    ¡Brillante artículo! Pensar que, curiosamente, se espera que los paramédicos, siendo humanos, tomen esa misma decisión utilitaria que nos asusta en un vehículo autocomandado: ante un conjunto heterogéneo de heridos, hombres, mujeres, jóvenes, niños, viejos, y dada la imposibilidad de ocuparse de todos, se debe priorizar a aquellos que tienen más posibilidades de sobrevivir.

  23. Mark Winterwolf

    El problema es la conciencia. Si no hay conciencia no hay moral. Un algoritmo no puede tener conciencia ya que ésta es una emergencia de la mente humana. El entendimiento como tal, también es parte de la conciencia. No se le puede pedir a un algoritmo que entienda cuando solo puede seguir instrucciones por mas aparentemente inteligente que sea. Y menos que entienda de moral, cuando ésta es un invento humano (si, un invento) que ni siquiera nosotros cumplimos.

  24. Nahir

    El amigo Kant decía que nunca vamos a poder conocer las consecuencias de nuestras acciones (y por ese motivo, en su ética, lo que determina la moralidad de un acto es la intención que lo motiva -deber o inclinación- y no sus consecuencias). Por ejemplo: podría suceder que los bebés del micro terminen convirtiéndose en Tan Biónica o, MUCHO PEOR, en 10 de los 11 titulares de Alemania en la final del mundial 2014. En ese caso ¿¿cuál sería el mal menor??
    No nos pidan a los/as filósofos/as que vengamos a resolver: ya saben que nos gusta hacer las preguntas :)

  25. Estebanquito

    Al introducir a la filosofía en asuntos de ingeniería, nos llevaría a una retrospectiva mas amplia y no tan despreocupada, ej: hasta que punto llegó el humano para debatir sobre una moral robótica y no la moral del ingeniero.. o el robot sale de un robot? (toco madera). Lo cómico es que tal problema se plantee de modo tan candoroso, de forma que el texto cite mil veces al gatito, y vuelque escandalosamente al afán por formular mas chistes que planteos.
    Volviendo al asunto, que el colectivo falle frente a un ”autocomandado” es mas problema del colectivo que del auto ya que no estuvo en las suficientes condiciones como para tomar tal desafío. Allí cae solo otro planteo, en esta nota estamos mas preocupados por el ”autocomandado” o por el bien común? En tal caso el juicio se le iniciaba al mecánico del colectivo que nunca laburó.
    Retomando, en asuntos como este no hay que ”ser filósofo” para determinar (si lo que queremos es el bien común, y no un autocomandado) que un colectivo no podría cargar con pasajeros en tales condiciones, porque en tal caso estamos exponiendo a un robot con ”actitud” indefinida contra un ser ultra-falible como el humano (y entrando en esas áreas, estaría bueno que todos los humanos pudiesen disponer en tal caso, de un autocomandado, para así evitar muertes tan evitables, pero allí entran las clases pudientes y no pudientes, de quien no y quien si tiene, entra otro cuestionamiento que en su solución podría ser muy significante). No creo que el autocomandado se pueda convertir en una especie de Dios y se vuelva transparente ante tan inminente peligro; es una muy buena invención, pero tampoco la pavada, hasta Terminator se cayó. El peligro seguiría siendo el ser humano en su desdeñoso interés por prevenir, y allí no entra ningún robot.

    Y otra cosa, podía haber una opción C de dar marcha atrás ante la inerte llegada de otro objeto, al menos así podría haber un choque pero de impacto con menor riesgo, o hasta se evitaba. Pero bueno, tu perspectiva allí dejó que desear.

    PD: nota mal planteada, hasta pareció que la hiciste para subir tu foto.

  26. leo

    La solución es que nadie tenga auto propio. Que solo exista transporte público autocomandado, y que circule por caminos que no pueden acceder los peatones ¿Cuanta gente pisa el subte, exceptuando a las estaciones (las cuáles hay que evitar el acceso a las vías desde hace rato)?

    Saludos

  27. Florencia

    Creo que todo podría resumir en que, básicamente, nadie compraría un auto autocomandado que no asegurara su bienestar por sobre el del micro, aunque incluya gatitos y bebés (es obvio que nadie sufriría por el mimo), por lo que, a menos que quieran fundirse como Herbert Powell AKA el hermano de Homero, los autos deberían preservar siempre a los pasajeros que contengan.


Publicar un nuevo comentario