Content
- Disparat per la màquina
- Automatització i trastorn de feina
- Sense errors, sense estrès: la vostra guia pas a pas per crear programes que canvien la vida sense destruir la vida
- Aplicacions de Consumer Electronics
- Recuperació del control
- Com pot funcionar
Font: Artinspiring / Dreamstime.com
Emportar:
Per tal que l'automatització funcioni amb i per a la humanitat més que contra ella, necessitem salvaguardes i persones humanes informades amb poder per aturar o solucionar un error del sistema.
“Errar és humà; William E. Vaughan va fer aquesta observació el 1969. Obtenir el control a un sistema automatitzat comporta que el sistema es pugui malmetre i causi greus danys abans que es revisi.
L’automatització no és nova, però s’està fent molt més estesa gràcies a la integració de sistemes físics digitals i digitals. L’avantatge de l’automatització a escala és de gran eficiència. Però l’inconvenient de confiar en un sistema de configuració i oblidació és que algú no pot establir-lo correctament.
Amb un sistema que simplement no es produeix cap intervenció i no hi ha manera d'aturar la maquinària, pot tenir efectes destructius. D’acord amb això, la tecnologia pot crear el tipus de situació representada a “L’aprenent de bruixot”, quan allò que sembla fer la vida més fàcil en realitat queda fora de control.
Disparat per la màquina
L’automatització sense intervenció és el que va provocar que un treballador de tecnologia dels EUA es trobés sense feina sense cap causa l’any passat. Ibrahim Diallo es va adonar que les seves targetes d’autorització de seguretat no treballaven a la feina i van descobrir que era perquè no tenia feina. "The Machine Fired Me" és el títol que va donar a la seva extensa publicació al bloc sobre l'esdeveniment.
En última instància, la causa de la terminació de Diallo no va ser un tipus d’avaluació d’un algorisme que determinés qui s’hauria d’eliminar. El problema no es trobava al sistema, sinó que va ser un error humà. En aquest cas, es tractava de tota la resposta automàtica a la falta d'un humà de posar la informació de renovació del contracte de Diallo.
No va ser que la màquina va decidir que havia de ser acomiadat per alguna cosa en concret. Simplement va dur a terme els passos programats per a algú que el seu estat apareixia com a que ja no utilitzava. Segons aclareix en els comentaris, aquest no és realment una IA, sinó un "script automatitzat". (Per obtenir informació sobre com pot ajudar-se la IA (en lloc de fer mal) en les empreses, consulteu què pot fer AI per a l'empresa.)
Automatització i trastorn de feina
Aquest tipus d’efectes no són exactament els que la gent preveu quan descriu els meravellosos beneficis que podem anticipar en un futur automatitzat. Les habituals perspectives optimistes per a un canvi de feina a mesura que les tasques es facin per automatització, les tasques es redefiniran, no es tancaran per sistemes automatitzats. Però la realitat és que seran eliminats alguns llocs de treball i les persones que els van ocupar no necessàriament podran fer una transició perfecta cap a les noves carreres en una indústria en gran part automatitzada.
La interrupció laboral és un dels riscos més petits que Elon Musk preveia per l'augment de la IA, tot i que la seva pròpia visió de l'impacte en els llocs de treball és molt més pessimista que la de Fitzgerald. Segons Musk, l'AI necessita una regulació estricta perquè suposa "un risc fonamental i existencial per a la civilització humana".
Sense errors, sense estrès: la vostra guia pas a pas per crear programes que canvien la vida sense destruir la vida
No podeu millorar les vostres habilitats de programació quan ningú es preocupa per la qualitat del programari.
Aplicacions de Consumer Electronics
Malgrat les pròpies credencials tecnològiques de Musk, alguns experts en la matèria com Rodney Brooks, que va ser director fundador del laboratori d'Informàtica i Intel·ligència Artificial del MIT, i van cofondar tant iRobot com Rethink Robotics, asseguren que Musk s'equivoca de l'amenaça de l'AI i de la robòtica. en realitat funcionen.
En una entrevista a TechCrunch, Brooks va indicar que és una bogeria demanar regulacions sense haver madurat la tecnologia fins al punt en què puguem identificar exactament el que s'ha de regular. Va desafiar Musk: "Digues-me, quin comportament vols canviar, Elon?"
Brooks va admetre que els robots comportaran desplaçaments laborals. Però també creu que és possible canviar el paradigma de la indústria per seguir el de l'electrònica de consum.
Com ho va dir a l’entrevista de TechCrunch va ser: “Tenim una tradició en fabricar equips que té horribles interfícies d’usuari i és difícil i cal fer cursos, mentre que en electrònica de consum, hem fet que les màquines que utilitzem ensenyin a la gent. com utilitzar-los. "
Aquest va dir que hauria de ser l’objectiu per canviar la manera de relacionar-nos amb “equips industrials i altres tipus d’equips, per fer que les màquines ensenyin a la gent a utilitzar-les”.
Recuperació del control
El que suggereix Brooks ens pot indicar cap a una solució al problema de l'error humà que posa en marxa el procés automatitzat que sembla que no es troba en control. Per referir-se a la mala aventura de Mickey a “L’aprenent de bruixot”, el problema es deriva de la persona que activa el sistema, però no té cap manera real de comunicar-se amb ell per tal d’aturar-lo o canviar de direcció.
Però si la interfície es fa segons les línies d’electrònica de consum en lloc dels models industrials tradicionals, literalment podria tornar a posar el control a les mans humanes. Perquè sigui realment efectiva, la interfície no només ha de ser accessible, sinó que s'ha dissenyat per mantenir la gent al corrent del que passa, proporcionant dades sobre les actualitzacions que ha rebut i quines accions ha dut a terme.
Com pot funcionar
En el cas de la cancel·lació accidental de Diallo, això significaria que el sistema automatitzat no el tancaria fora del sistema i, a continuació, proporcionaria al seu reclutador que el donessin de baixa. Primer reconeixerà que la renovació del contracte no es va aplicar a la data prevista. Abans d’iniciar les accions de terminació, oferiria al pessebre i al reclutador l’actualització sobre la falta de renovació i les conseqüències que es podrien produir en el dia si no es prenen accions.
Aquest tipus d’alerta permetria a les persones prendre decisions informades sobre si permetre que l’automatització continués o bé intervenir per rectificar l’error humà que va ser la causa original del problema. Però les persones també han de fer la seva part, respondre a l’alerta i prendre les mesures adequades. És a dir, la resposta a la pregunta que Brooks plantejava sobre el comportament s'aplica als humans; necessiten ser menys passius davant l’automatització. (Per obtenir més informació sobre el funcionament cooperatiu dels humans i les màquines, vegeu Canalització de l’element humà: Política, procediment i procés.)
Tal com va escriure Diallo a la secció de comentaris del seu bloc, la raó per la qual va poder arribar al punt que va fer va ser que la gent es va negar a anar contra la màquina:
Una altra cosa que passa per alt és que tot i que tothom sabia que es tractava d’un error humà que el va desencadenar i que va ser un error merament, van optar per seguir el s. És com posar un senyal de "permès fumar" a l'hospital i la gent respecta el rètol en lloc d'utilitzar el sentit comú.
En conseqüència, les polítiques que hem d’adoptar per tal que l’automatització funcioni amb i per a la humanitat en lloc de contra ella són dobles: Per part de la màquina, necessitem interfícies accessibles i informatives, i per la part humana, necessitem que les persones siguin facultat d’identificar quan alguna cosa no està bé i intervenir per rectificar-la.