C&P: Hace unos minutos se ha levantado el embargo informativo sobre la siguiente carta abierta, que se leerá el día 28 de julio de 2015 en el mayor congreso internacional sobre inteligencia artificial (IJCAI, International Joint Conferences on Artificial Intelligence) en la que se pide la creación de un tratado internacional de no proliferación de dichas armas para evitar el comienzo de la tercera revolución en guerra de la Historia, siendo las dos anteriores la pólvora y la bomba atómica.
Comentarios
Voy a darles unas ideas para ese tratado:
1- Un robot no hará daño a un ser humano o, por inacción, permitir que un ser humano sufra daño.
2- Un robot debe obedecer las órdenes dadas por los seres humanos, excepto si estas órdenes entrasen en conflicto con la 1ª Ley.
3- Un robot debe proteger su propia existencia en la medida en que esta protección no entre en conflicto con la 1ª o la 2ª Ley.
#1 Te voy a contar cuales serán en realidad las directivas primarias de un sistema militar:
1. Eliminar al objetivo primario estará por encima de todo lo demás.
2. Una vez eliminado el objetivo primario se atacará cualquier objetivo secundario a la vista hasta agotar la munición.
3. Si la munición se agota antes de cumplir la directiva 1, se realizará un ataque kamikaze.
#1 el problema no esta en eso, de hecho yo creo que el problema no es ni la IA en si, el problema es el factor humano y las personas que crearan esas IA. QUe si, que esas reglas estan muy bien, pero resulta que dia el lider de la megacorporacion de turno pensara que esas leyes en realidad le estan impidiendo alcanzar un potencial que podria darle mas beneficio e indudablemente se las saltara o intentara ocultar por cualquier medio que se las ha saltado, y cuando tengas por ahi una IA sin leyes por el error/avaricia del gilipollas de turno egocentrico pues igual ya si que la lias.
Yo leyendo el artículo entiendo que no se refieren tanto a la IA Dura como a sistemas expertos ... en este caso en matar.
De hecho ya se utilizan "robots" drones para este propósito. Pero perfeccionados pueden ser un arma terrible. Imaginen un dron muy rápido pilotado por un sistema experto. El cual está programado para acabar con todo ser humano 500 metros a la redonda que no lleven una placa emisora de cierta frecuencia. Es un robot que ya puede ser creado y que solo necesita mejorar en velocidad y reconocimiento de objetivos ...
¡Skynet! ¡Qué te van a construir un cuerpo!
¿Veis lo que pasa? Hacen una película. Un iluminado crea un discurso con apariencia coherente, y a continuación unos señores que saben mucho de otras cosas se lo creen y empiezan a correr en círculos.
Skynet es ficción. Coño.
#3 no estés tan seguro.
#3 "unos señores que saben mucho de otras cosas"
Los que cita este articulo (Hawking, Musk y Wozniak) si, pero entre los firmantes si hay gente del campo de la IA:
Geoffrey Hinton, Yoshua Bengio, Yann LeCun, Tom Mitchell, Richard Sutton, Peter Norvig, Stuart Russell, Nils J. Nilsson ...
http://futureoflife.org/AI/open_letter_autonomous_weapons#signatories
Los ingenieros han sido y son con diferencia las personas más peligrosas que ha dado la raza humana, por encima de militares golpistas, dictadores de El Partido y presidentes chiflados. Más que nada, porque todos esos jamás hubieran podido hacer nada sin tener a los ingenieros creándoles juguetes de destrucción masiva y ayudándoles a exterminar al resto más rápida y eficientemente.
Y encima, como les pagan bien por sus servicios y viven mejor que la media de los obreros, los hijoputas se crecen en ego y en chulería y van dando lecciones al resto de quienes son los perdedores y quienes los triunfadores. Algunos hasta se atreven a dar simposios de economía y de historia, sin tener ni puta idea de una cosa ni de la otra. Dale a un ingeniero un libro de Hayek y tendrás un psicópata chalado encantado de haberse conocido y lleno de resquemor de cuando le collejeaban en el patio de la escuela.
Dejad de poner la vista en los robots y las máquinas y empezad a ponerlas en los ingenieros. Los robots, al igual que las armas, no matan. Matan quienes apretan el gatillo y quienes programan al robot.
¿Y ese.blog tiene el valor de llamarse "ciencia explicada"? El post no explica una sola coma del asunto.