Si además quieres enviarnos un Artículo para el Blog y redes sociales, pulsa el siguiente botón:
Mas o menos es asi: si un programador diseña un programa autónomo capaz de tomar decisiones y "puede o puede que no" cometa actos ilegales...
¿Cual es su responsabilidad?
El tema es delicado, porque no puede hacerse un simil con otros diseños. Si haces un sistema mecánico debes hacerlo SEGURO por ley, pero las condiciones a las que se ha de enfrentar son predecibles. Pero una pieza de software que tome decisiones es totalmente impredecible...
Es parecido al tema del coche autónomo: ¿debe poner en peligro a los ocupantes para salvar de un peligro a los viandantes?
No entiendo mucho de leyes. Pero si esto es así primero habría que establecer las pautas demostrar la vinculación entre el "supuesto" creador y lo creado. Porque sería fácil llegar a inculpar a terceros inocentes de la creación de las máquinas criminales... SW o HW
El problema de las nuevas tecnologias es que hay que analizarla una a una... en cuanto se haga una afirmación siempre saldrán excepciones por lo que entrar en un debate general es complicado.
Tampoco se mucho de leyes pero el punto clave reside en la intencionalidad, si por inventar algo que mata a la gente te metieran en la carcel ya me direis donde habria acabado los señores Walter Chrysler, Ferdinand Porsche, Henry Ford, etc... los vehiculos a motor son dispositivos mortales por excelencia.
En el ejemplo del link, el tio que deja a un bot que compre cosas aleatoriamente el culpable (a mi entender) es el propietario de la tarjeta de credito, si no se que van a comprar con ella NO dejes que compren por tí sin tu supervisión.
hay que analizar caso por caso y aún asi será extremadamente dificil.
Yo pondría el ejemplo de google. El software analiza cientos de millones de páginas cada día, y aunque tiene filtros, se le cuelan imágenes con derechos de autor, páginas con números de serie de aplicaciones o cracks, apología del terrorismo, etc. Evidentemente no tienen tanto personal como para filtrarlo mediante humanos, ni existen los algoritmos perfectos que lo filtren 100% (o bien dejan pasar muchos de esos casos o bien filtra también páginas que no son ilegales). ¿Es culpa de google o de sus cientos de programadores que cuando hagas una búsqueda del número de serie de windows 7 te aparezcan en los primeros resultados números funcionales? Pues personalmente opino que no es culpa de ellos y no se les puede acusar de nada, simplemente porque su objetivo e intención originalmente no fueron esos, pero las circunstancias (que no se pueden castigar a ellas mismas) provocan este tipo de situaciones, habría que ir a los crean esas páginas, pero de por si ese concepto no es aplicable: puedes pillar a uno, dos, 100, pero habrá otros que tomarán su lugar; no existe como en Minority Report un sistema de precrimen que evite ese tipo de situaciones.
En cuanto a lo del coche, pues tampoco se puede culpar al fabricante o a los que lo han desarrollado un poco por lo mismo de antes. Las circunstancias no se pueden controlar, por tanto no se puede tener nunca una solución perfecta para cada problema y por tanto si la programación del vehículo era ocasionar los menos daños posibles pero no se consigue, pues se tendrá que asumir que ha sido un accidente.
Conclusión: Nunca van a existir las circunstancias ideonas ni se va a poder controlar el entorno 100%, como mucho habrá aproximaciones, pero nunca se llegará a la perfección, por lo que no debemos engañarnos con que se podría conseguir, sino seguir con esa incertidumbre en mente y continuar haciéndolo lo mejor que podamos.
Jo... hablo de coches como dispositivos peligrosos y hoy leo esto...
http://www.v3.co.uk/v3-uk/news/2394779/government-approves-driverless-car-tests-on-uk-roads
El responsable en este caso concreto será el conductor de seguridad que llevarán los vehiculos mientras hagan las pruebas, por lo pronto quien viva en Bristol que se ande con cuidadito si ve un Jeep azul oscuro o negro... 😛