Bueno, el punto de una máquina autodestructiva valdrá la pena considerarlo solo si a la máquina le preocupa que termine su existencia. Entonces, primero, necesitaremos máquinas autopreservadoras.
Máquinas que se preocupan por sí mismas y toman decisiones basadas en cómo las afectará individualmente.
En este momento, el código y las máquinas se preocupan por llevar a cabo sus tareas. No hay pensamiento de autopreservación. Si codificaras un robot para extraer su batería, lo haría …
Creo que lo que tenemos que preocuparnos ahora es intentar crear máquinas que puedan entenderse a sí mismas y tener una necesidad innata de preservar su existencia. Después de eso, las tendencias autodestructivas podrían ser una progresión natural.
