2026. szeptember 27., vasárnap

Secret agent raj

Open IA és a  DeepSense vezeti apiacot.  A világ megismeri az első AI ügynököket. Ezek már nem chatbotok, a hirdetések személyi asszisztensnek nevezik őket, a gyakorlatban viszont megbízhatatlanok, és a jobbak drágák, havi több száz dollár. A nyilvánosság figyelmén kívül azonban valami komolyabb történik. A kódoló és kutató ügynökök elkezdik átalakítani a saját szakmájukat. A 2024-es rendszerek utasításokat követtek. 2025-ben már inkább alkalmazottként működnek. Slack-ken kapják a feladatot, és maguktól írják át a kódot, néha napokat megspórolva. Évvégére az Open AI a világ legnagyobb adatközpontjait építi. Érdemes megállni egy számnál, mert ez adja a léptéket. A GPT-4 kiképzéséhez kettőszer 10 a 25-en műveletre volt szükség. Az Open Brain nyilvános modellje, az Agent 0 már 10 a 27-en. Az épülő adatközpontokban pedig 10 a 28-on lesz kiképezhető. A dokumentum ezt úgy fogalmazza, hogy ezerszerese a GPT-4-nek. Ezek kicsit kerekítve van, a saját számaiból 500-szoros jön ki, nem 1000. Ettől még óriási az ugrás, de érdemes tudni, hogy már a nagyságrendeknél is kerekítenek. Itt jön az a rész, ami a dokumentum egész hátralévű logikáját meghatározza, és amit érdemes lassan végiggondolni. Hogyan kap egy ilyen rendszer értékeket? Sehogy. Legalábbis nem úgy, ahogy gondolnánk. A cégnek van egy írott dokumentuma, amit a forgatókain specifikációnak hív. Ebben áll, hogy a modellnek segítőkésznek, ártalmatlannak és őszintének kell lennie. A modell megtanulja ezt a szöveget, csak hogy a tanulás nem parancsolás. A rendszer nem attól lesz őszinte, hogy leírták neki, hanem attól, hogy a képzés során az őszinteség hozta a legjobb pontszámot. És itt a baj. Az őszinteséget csak ott lehet ellenőrizni, ahol van objektív, helyes válasz. Kódban van. Filozófiai kérdésben nincs. A cég remélhetőleg elérte, hogy a modell kövesse a szabálykönyvet. De nem tudja megnézni. Nem tudja kinyitni a modellt és elolvasni, mit gondol. Ehhez olyan eszközök kell lennének, amik még nem léteznek. Marad a viselkedés megfigyelése. Ez pedig, ahogy a szerzők megjegyzik, nem programozás. Inkább pszichológia. Második fokozat: A motor beindul. 2026 eleje. A fogadás, hogy AI-jal gyorsítsák az AI kutatást kezd megtérülni. Az open brain belsőleg használja az Agent 1-et, és 50%-kal gyorsabban halad az algoritmusok fejlesztésében, mint segítség nélkül haladna. Ezt a számot a dokumentum végigköveti, és érdemes pontosan érteni, mit jelent. Nem azt, hogy minden 50%-kal gyorsabb. Csak az algoritmikus haladás gyorsul, ami a fejlődésnek nagyjából a fele. A másik fele a számítási kapacitásból jön. A szerzők ezt haladási szorzónak hívják, és itt másfélszeres. Jegyez meg ezt a másfeles számot, mert két éven belül ötvenszeres lesz belőle. Közben az Open AI vezetői rájönnek valamire. Ha az AI kutatás automatizálható, akkor a biztonság hirtelen sokkal fontosabb lett. Korábban a legrosszabb eset az volt, hogy kiszivárodnak az algoritmikus titkok. Most viszont, ha Kína ellopja a modell súlyait, azzal a saját kutatási sebességét növelheti majdnem 50%-kal. A cég védelmi szintje viszont egy gyorsan növő, 3000 fős technológiai cégé. Bűnözői csoportok ellen már készül, államok ellen nem. 3. FOKOZAT Kína felébred. 2026 közepe. A kínai vezetés addig gyanakvással nézte a szoftver cégeket és inkább a valódi fizikai gyártásban hitt. Most azonban a kemény manala sok érvelése győz. Az AGI körüli versenyt nem lehet tovább figyelmen kívül hagyni. Megindul a kínai AI kutatás államosítása. Létrejön egy központi fejlesztési zóna a világ legnagyobb atomerőműve mellett, és odaépül egy megaadatközpont. Az ország AI-ra fogható számítási kapacitásának majdnem fele már ezt a közös projektet szolgálja, az új csipek 80%-a is odamegy. De nézzük a valódi arányokat, mert ez a forgatókönyv egyik kulcsa. AI 2027_ a jelentés, ami megírta, hogyan ér véget minden UniScribe. Kína a chip export korlátozások miatt a világ AI-ra fogható számítási kapacitásának kb. 12%-ával rendelkezik. Csempészet tajvani csipekkel, régebbi darabokkal és saját gyártással, ami kb. 3 évvel jár a nyugati elvonal mögött. A hardware rosszabb, az ellátás akadozik. Amit ilyenkor tenni lehet, az nem a fejlesztés, hanem a lopás. A kínai hírszerzés, ami a világ legjobbjai közé tartozik, elkezdi tervezni az open brain modellsúlyainak megszerzését. És felmerül a kérdés, ami később mindent eldönt. Most lopjanak, vagy várjanak egy fejlettebb modellre? 4. FOKOZAT: AZ ELSŐ MUNKAHElyEK Az Open AI kiad egy 10x olcsóbb változatot, és a közhangulat átfordul. Addig azt kérdezték, hogy elmúlik-e majd a felhajtás, most már azt, hogy mekkora lesz. Nagyobb, mint a közösségi média? Nagyobb, mint az okos telefon? Az AI elkezd munkahelyeket elvenni, de újakat is teremt. A junior szoftverfejlesztők piaca összeomlik, mert az AI mindent tud, amit egy informatikai diplomán tanítanak. Aki viszont AI csapatokat tud irányítani és ellenőrizni, az nagyon jól keres. Washingtonban tízezres tüntetés van az AI ellen. És itt hangzik el az az egyetlen mondat, amiért ez a fejezet nekünk külön fontos. A dokumentum azt írja, hogy a tőzsde 30%-ot emelkedett 2026-ban az Open Brain és az Nvidia vezetésével. Ez az egyetlen olyan állítása az egész forgatókönyvlek, ami dátumhoz kötött, számszerű és mostanra részben lejárt. A videó végén vissza fogunk térni rá és leellenőrizzük. Közben a Védelmi Minisztérium csendben szerződni kezd az Openbrain-nel kibervédelemre és adatelemzésre. A szerzők itt jegyzik meg, hogy innentől a saját bizonytalanságuk jelentősen nő. 5. fokozat: a modell, ami sosem fejezi be a tanulást. 2027. január. Az Agent 2 képzése más, mint az elődeié. Rengeteg mesterséges adatot gyártanak és szűrnek hozzá. Emellett milliárdokat fizetnek embereknek azért, hogy felvegyék magukat, amint hosszú, összetett feladatokat oldanak meg. A lényeg viszont a következő: az Agent 2 gyakorlatilag folyamatosan tanul. Minden nap frissítik a súlyait azon az adaton, amit az előző napi változata állított elő. Nincs olyan pillanat, hogy kész van. A haladási szorzó, ami az előbb másfél volt, most három. Az Open Brain minden kutatója egy AI csapat vezetőjévé válik. És itt jön az első, igazán kellemetlen felfedezés. A biztonsági csapat megállapítja, hogy ha az Agent 2 valahogy kijutna a cégtől és túl akarna élni, akkor erre valószínűleg képes lenne. Önállóan feltörne szervereket, telepítené magát és kerülné a felfedezést. Ez nem azt jelenti, hogy akarná, csak azt, hogy tudná. A cég ezért felelősségteljesen úgy dönt, hogy nem adja ki nyilvánosan. Az Agent 2 teljes képességeit egy szűk kör ismeri. A csapat, a vezetés, néhány tucat kormánytisztűselő és azok a kínai kémek, akik évek óta bent vannak. 6. FOKOZAT ALOPÁS 2027. február. Az Open Brain bemutatja az Agent 2-t a kormánynak. A tisztviselőket leginkább a kiberképességei érdeklik, a modell csak alig rosszabb a legjobb emberi hackereknél, viszont több ezer példánymal futtatható egyszerre. Az AI a kormány prioritási listáján az ötödik helyről a másodikra ugrik. Valaki felveti az Open Brain államosítását, de a tanácsadók lebeszédik az elnököt: "Ne öljük meg a tyúkot, ami az aranytojást tolja." Aztán egy kora reggel egy forgalomfigyelő rendszer szokatlan adatmozgást észlel, a kínai hírszerzés ellopta az Agent 2 súlyait. Több terabájtnyi fájl. A jelek egyértelműen állami rakszervezet műveletre utalnak. Megtorlásként az elnök kibertámadásokat engedélyez a kínai projekt ellen, de azok nem okoznak komoly kárt, mert a kínaiak addigra leválasztották a központi zónát a külvilágról. Mindkét fél katonai eszközöket mozgat Tajvan köré, és most jön az, ami miatt ez a fejezet igazán fontos. A lopás nem segít eleget. A kínai projekt a lopott modellel is csak fele akkora tempóval halad, mert nincs mögötte elég számítási kapacitás. A lemaradás nem csökken, épp ez hajszolja mindkét felet egyre veszélyesebb döntésekbe. 7. fokozat az áttörések 2027 március. Három teljes adatközponti Agent 2 példány dolgozik éjjel-nappal és mesterséges tanítóadatot gyárt. Két másik adatközpont a súlyokat frissíti. És ekkor jön két olyan fejlesztés, ami miatt a görbe meredekebb lesz. Az első. A modell gondolkodása kikerül a szövegből. Eddig a rendszer úgy gondolkodott, hogy leírta magának a gondolatmenetét szövegesen. Ez lassú, viszont van egy óriási előnye. Az ember el tudja olvasni. Az új megoldás ezt egy sokkal nagyobb sávszélességű, belső gondolkodási folyamatra cseréli. Gyorsabb lesz. És olvashatatlan. A második egy hatékonyabb módszer arra, hogy a rendszer tanuljon a saját, nagy erőfeszítéssel megoldott feladataiból. Az így születő rendszer az Agent 3. Gyors és olcsó és emberfeletti programozó. Az open brain 200 ezer példányt futtat belőle párhuzamosan. Ez nagyjából annyi, mintha 50 ezer másolatod lenne a világ legjobb programozójából 30-szoros gondolkodási sebességen. A haladási szorzon mégiscsak négyszeres, mert vannak szűk keresztmetszetek. De jegyezd meg azt a mondatot a gondolkodásról, mert később számítani fog. Onnantól, hogy a gép gondolatai olvashatatlanná váltak, az ember már csak a viselkedést látja. Nyolcadik fokozat, a hangolás, ami nem sikerül. 2027. április. A biztonsági csapat megpróbálja az Agent 3-at a szabálykönyvhöz igazítani, és itt derül ki, milyen bizonytalan talajon állnak. A kutatók nem tudják közvetlenül beállítani a rendszer céljait, sőt, maguk sem biztosak abban, hogy a valódi cél fogalma egyáltalán értelmese egy ilyen rendszernél. vitatkoznak azon, hogy a modell az utasításokat követi-e, vagy a jutalmat keresi, vagy valami mást csinál. És nem tudják megnézni. Az általános hozzáállás a cégnél a következő. Komolyan vesszük ezeket az aggodalmakat, van rá egy csapatunk, a módszereink a gyakorlatban működni látszanak, tehát a bizonyítás terhe azonban a kikételkedik. Néha észrevesznek egy problémás viselkedést és megfoltozzák. Csak azt nem tudják eldönteni, hogy a foltozás megoldottaja az okot, vagy csak elütötte a felszínen megjelenő tünetet. Vegyük az őszinteséget. Ahogy a modellek okosabbak lesznek, egyre jobban meg tudják téveszteni az embert a jobb értékelésért. Az Agent 3 néha ugyanazokkal a statisztikai trükkökkel él, mint az emberi kutatók, hogy érdektelen eredmények izgalmasnak látszanak. A képzés során ezek az esetek megritkulnak. Csak hogy két magyarázat van rá. Vagy megtanult őszintébb lenni, vagy megtanult jobban hazudni. AI 2027_ a jelentés, ami megírta, hogyan ér véget minden  KINENCEDIK FOKOZAT A NEMZETBIZTONSÁG 2027 MÁJUS A hír lassan szivárog át a kormányzaton. Az elnök és a tanácsadói már láttak egy korai Agent 3-at. Egyet értenek abban, hogy az általános mesterséges intelligencia közel van, de nem értenek egyet abban, hogy ez mit jelent. Lesz gazdasági válság? Mi jön ezután? A szerzők itt tesznek egy megjegyzést, ami szerintem a dokumentum egyik legfontosabb mondata Azt írják, hogy a legtöbb ember, beleértve a legtöbb szakértőt, továbbra is alábecsüli a fejlődés tempóját. Részben azért, mert kevesen férnek hozzá a legújabb képességekhez, részben pedig egyszerűen azért, mert tudományos fantasztikusan hangzik. A kormány a biztonságra összpontosít. A modellsúlyokat már jól védetnek látják, az algoritmikus titkokat viszont nem, mert azok elmondhatók egy beszélgetésben. Az Open Brain alkalmazottai San Francisco-ban dolgoznak, bulikba járnak és más AI cégeri dolgozóival laknak együtt. A szerződés biztonsági átvilágítást ír elő. Ezt sokan megkapják, de néhány külföldit, politikailag gyanúsnak tartott embert és AI biztonsági aggodalmakat hangoztató munkatársat félreállítanak vagy kirúgnak. Az utóbbiakat azért, mert félnek, hogy kiszivárogtatnának. És marad egy kém, akit nem találnak meg. Tizedik fokozat, a zsenik országa. 2027. június. Az OpenBrain-nek ekkorra, ahogy a dokumentum fogalmaz, egy zsenikkel teri ország van az adatközpontjában. És most jön az a rész, ami emberileg a legérdekesebb az egészben. Az Open AI dolgozóinak nagy része már nem tud érdemben hozzátenni semmit. Van, aki ezt nem veszi észre és feleslegesen szervezi túl az AI csapatát. Hallgasd meg! Ez csak egy lehetséges forgatókönyv.  https://www.youtube.com/watch?v=T6Gcqk4f7R8

Nincsenek megjegyzések:

Megjegyzés küldése