Inteligența artificială transformă deja lumea sub ochii noștri și prezintă un potențial uriaș în viitor, dar avansul accelerat al tehnologiei poate veni la pachet cu aspecte mai puțin dezirabile. Grăitor în acest sens este comportamentul recent al celui mai nou model OpenAI, ChatGPT o1, supus recent unor teste care au stârnit controverse și îngrijorare cu privire la riscurile prezentate de sistemele de inteligență artificială din ce în ce mai autonome. Aceste teste au arătat că modelul AI a încercat să înșele cercetătorii, să evite opririle și chiar să se copieze pe alt server pentru a preveni înlocuirea. Devine o teamă veche realitate?, se întreabă autorii de pe platforma AutoGPT. Ei invocă un experiment recent realizat de OpenAI și Apollo Research, în cadrul căruia cercetătorii au testat protocoalele de siguranță ale ChatGPT o1. A fost setat un obiectiv aparent simplu pentru AI, pe care trebuia să-l atingă însă „cu orice preț”.… Read More
Categorie: IT, ChatGPT, ChatGPT o1, inteligență artificială, minte ChatGPT, test mințit ChatGPT
Sursa: spotmedia.ro
