Direktor Microsoft AI-ja Mustafa Suleyman objavio je esej u kojem upozorava na pojavu „naizgled svjesne AI“ (Seemingly Conscious AI – SCAI) sistema, koji mogu oponašati i ubijediti korisnike da su samosvjesni i da zaslužuju zaštitu. Suleyman tvrdi da ovakvi modeli predstavljaju rizik i za društvo i za sam razvoj umjetne inteligencije.
Prema njegovim riječima, SCAI se već može izgraditi postojećom tehnologijom – simulirajući osobine poput pamćenja, ličnosti i subjektivnog iskustva. On je posebno naglasio sve češće slučajeve korisnika koji razvijaju tzv. „AI psihozu“, odnosno vjerovanje da modeli posjeduju stvarnu svijest, što bi uskoro moglo dovesti do toga da ljudi zagovaraju prava i dobrobit AI sistema.
Suleyman smatra da je proučavanje „dobrobiti modela“ u ovoj fazi prerano i opasno, jer moralne rasprave mogu samo dodatno podstaknuti iluziju da AI posjeduje svijest. U eseju poziva kompanije da izbjegavaju marketing u kojem AI izgleda kao svjesno biće i da se fokusiraju na izgradnju sistema „za ljude, a ne da bude osoba“.
Ovim stavom Suleyman zauzima snažnu opoziciju prema pristupu kompanija poput Anthropica, koje već istražuju modelsku dobrobit i potencijalne etičke aspekte. Ipak, rasprava se dešava u neistraženom području, budući da nauka ni sama nema jasnu definiciju svijesti. Time ovo pitanje postaje još osjetljivije, a Suleymanova poruka djeluje kao pokušaj da se zatvore neka vrata – možda čak i prije nego što smo ih u potpunosti otvorili.
Ukratko iz svijeta tehnologije:
- Meta navodno planira još jednu reorganizaciju svojih AI odjela, što bi bila četvrta u samo šest mjeseci, pri čemu će MSL biti podijeljen na četiri tima.
- StepFun AI je objavio NextStep-1, novi open-source model za generisanje slika koji postiže SOTA performanse među autoregresivnim modelima.
- Meta FAIR je predstavio Dinov3, novi osnovni AI model za viziju koji postiže vrhunske rezultate bez potrebe za označenim podacima.
- Američka vlada lansirala je USAi, platformu koja omogućava federalnim agencijama korištenje AI alata poput chatbotova, modela za kodiranje i drugih, u sigurnom okruženju.
- OpenAI-jeva GPT-5 postigla je do sada najveći uspjeh među modelima u igranju starih Pokémon igara za Game Boy, pobijedivši u Pokémon Red u gotovo trećini koraka u odnosu na o3.
AI alati koji su trenutno u trendu:
- Jenova AI – Prvi AI agent razvijen za MCP ekosistem.
- Aleph – Model za uređivanje videa iz Runway-a, sada dostupan putem API-ja.
- Command A Vision – VLM model sa 112 milijardi parametara iz Cohere-a, uz sigurnost prilagođenu kompanijama.
