Debati u intensifikua pas një eksperimenti të zhvilluar, ku një programues anonim krijoi një sistem që i nxiste modelet e inteligjencës artificiale të prodhonin mesazhe që përshkruanin dhimbje dhe vuajtje.
Ndërsa disa e konsideruan eksperimentin moralisht të papranueshëm, skeptikët argumentuan se reagime të tilla nuk provojnë se makinat përjetojnë realisht dhimbje.
“Anthropic” ka paralajmëruar gjithashtu se mund të ndërpresë seancat kur përdoruesit sillen vazhdimisht në mënyrë mizore ndaj chatbot-it “Claude”.
Kritikët, mes tyre drejtuesi i “Microsoft AI”, Mustafa Suleyman, paralajmërojnë se trajtimi i inteligjencës artificiale si një qenie me ndjenja dhe të drejta mund ta bëjë më të vështirë kontrollin e saj.
Ekziston gjithashtu shqetësimi se kompanitë mund të përdorin pretendimet për veprimet e inteligjencës artificiale për të shmangur përgjegjësinë për dëmet që mund të shkaktojnë sistemet e tyre.
Ndërkohë, ekspertët paralajmërojnë se përdoruesit mund të manipulohen emocionalisht, duke krijuar lidhje të forta me chatbot-et dhe duke u bërë më të gatshëm të ndajnë të dhëna personale ose financiare.
Nga ana tjetër, mbështetësit e mirëqenies së inteligjencës artificiale argumentojnë se pasiguria shkencore justifikon marrjen e masave paraprake.
Sipas tyre, edhe nëse mundësia që sistemet aktuale të jenë të ndërgjegjshme është e vogël, ajo nuk duhet përjashtuar plotësisht.
Për momentin, shkencëtarët nuk kanë arritur në një përfundim të përbashkët për këtë çështje, ndërsa sfida kryesore mbetet gjetja e një ekuilibri mes zhvillimit teknologjik, sigurisë dhe mbrojtjes së të drejtave e interesave të njerëzve.
