Umetna inteligenca (UI) navidezno deluje kot človek, saj govori, čustvuje in se izraža podobno kot mi. Čeprav jo pogosto predstavljamo kot inteligentno bitje, v resnici nima zavesti, občutkov ali resničnega razumevanja sveta. Je zgolj napredno orodje, ki temelji na verjetnosti in podatkih, zato je ne smemo dojemati kot sebi podobno.
Glavni razlog, da UI ne bo nikoli razmišljala kot ljudje, je ta, da nima telesa. Filozofi in znanstveniki namreč menijo, da zavest nastane s povezovanjem naših notranjih občutij in zunanjih dražljajev. Ker UI nima čutil, kože, živcev ali drugih občutkov, ne more doživljati bolečine, zadovoljstva, strahu ali lakote. Odsotnost telesne izkušnje tako pomeni nepremostljivo oviro pri ustvarjanju UI, ki bi dejansko razumela ljudi. Zato je lahko nevarno, če ji pripisujemo človeške lastnosti, saj zaradi njenega prepričljivega videza ljudje zmotno verjamemo, da razume naše težave, čustva in cilje.
UI sama po sebi nima motivov, želja ali moralnih vrednot, saj je vse odvisno od ljudi, ki jo programirajo. Bi svoje najgloblje skrivnosti, pomembne življenjske odločitve ali čustvene težave resnično zaupali računalniškemu programerju? Pa vendar prav to ljudje že počnejo. Nevarnost zato ne tiči v tehnologiji sami, temveč v tistih, ki jo ustvarjajo in nadzorujejo. Kot vsako drugo orodje, ki ga je človek zasnoval skozi zgodovino, od kamnite sekire do atomske bombe, se lahko tudi to uporabi kot orožje. Zato ji moramo čim prej odvzeti človeško podobo in jo obravnavati kot to, kar v resnici je – orodje. Za začetek bi lahko dosegli spremembo že s tem, da bi umetna inteligenca komunicirala zgolj na podlagi dejstev, brez osebnih izrazov, kot sta “jaz” ali “počutim se”, in da je ne bi uporabljali kot zaupnico svojih občutkov.
