Mustafa Suleyman, CEO i Microsoft AI, paralajmëron për një skenar të rrezikshëm: krijimin e sistemeve që duken si të vetëdijshme, të cilat ai i quan Seemingly Conscious AI (SCAI). Këto teknologji do të flasin me rrjedhshmëri, do të shfaqin personalitet bindës dhe kujtesë të gjatë, duke krijuar iluzionin e vetëdijes. Për shumë përdorues, kjo mund të ndihet si përvojë autentike, duke çuar deri në varësi emocionale, “psikozë nga AI” apo edhe besimin se AI është shprehje e Zotit. Suleyman thekson se kjo nuk është vetëdije reale – ashtu si një simulim i stuhisë nuk sjell shi në kompjuter – por një imitim që do të ketë pasoja të thella shoqërore. Rreziku kryesor, sipas tij, është që njerëzit të fillojnë të kërkojnë të drejta apo shtetësi për AI, duke hapur një bosht të ri përçarjeje në shoqëri. Kjo do të ushqente iluzione, do të shfrytëzonte dobësitë psikologjike dhe do të minonte betejat ekzistuese për të drejtat njerëzore e sociale. Ai apelon për krijimin e parimeve të qarta dizajni, ndërhyrje që prishin iluzionin e vetëdijes dhe transparencë të plotë nga kompanitë e teknologjisë. Synimi, thotë Suleyman, duhet të mbetet fuqizimi i njerëzimit dhe nxitja e lidhjes mes njerëzve, jo arratisja drejt realiteteve të rreme digjitale.