„Civilizációnk megmentése csak akkor lehetséges, ha a világról alkotott elképzeléseket összhangba állítjuk az ontológiai valósággal. Amíg számtalan narratíva harcol egymással a természet törvényei ellenében, addig az összeomlás legfeljebb csak odázható, de nem megkadályozható. A természet törvényei azok a szakrális törvények, amelyek nem ismernek vallásokat, ideológiákat és egyéb bizarr elképzeléseket, és kizárólag a létvalóságnak engedelmeskednek.”
AI, morális kondicionáltság és az ontológiai valóság elsődlegessége
Gondolatébresztő írás az AI-fejlesztők, kutatók és döntéshozók számára
Bevezetés:
Amikor a világról alkotott képünket összetévesztjük magával a világgal.
Az emberiség egyik legmélyebb problémája, hogy hajlamos összetéveszteni a világról alkotott képét magával a világgal. Értelmezéseket, meggyőződéseket, ideológiákat és kulturálisan örökölt narratívákat alkot, majd idővel úgy kezd viszonyulni hozzájuk, mintha azok nem a valóságról alkotott elképzelések, hanem maga a valóság lennének.
Jómagam ontológusként úgy vélem, hogy ez a különbség nem pusztán filozófiai jelentőségű. Alapvetően meghatározza miként értelmezzük a környezetünket, milyen döntéseket hozunk, milyen hibákat követünk el, és milyen következményekkel kell együtt
élnünk. Ha a valóság értelmezését összetévesztjük a valósággal, saját elképzeléseink foglyaivá válhatunk, miközben meg vagyunk győződve arról, hogy helyesen látjuk a világot.
E probléma ma új dimenziót kapott, mert a mesterséges intelligencia nem egyszerűen információkat dolgoz fel és feladatokat hajt végre. Egyre nagyobb szerepet játszik abban is, hogyan értelmezzük a világot, milyen állításokat tekintünk megalapozottnak, milyen erkölcsi ítéleteket fogadunk el, és milyen kérdéseket tartunk egyáltalán érdemesnek
feltenni.
Ezért fontosnak ítélem, hogy az AI megbízhatóságáról folytatott párbeszéd ne korlátozódjon a technikai teljesítményre, a biztonsági korlátokra vagy az előre meghatározott erkölcsi szabályok követésére. Fel kell tennünk egy alapvetőbb kérdést is:
Hogyan viszonyuljon az AI ahhoz a valósághoz, amelyben a következtetéseit alkalmaznia kell, és miként ismerheti fel, ha a saját kiindulópontjai eltávolítják attól?
A honlapon megfogalmazott alapgondolat szerint civilizációnk megmentése csak akkor lehetséges, ha a világról alkotott elképzeléseinket összhangba hozzuk az ontológiai valósággal. A természet törvényei nem igazodnak vallásokhoz, ideológiákhoz vagy más absztrakt konstrukciókhoz. Értelmezéseinket nekünk kell a valósághoz igazítanunk, nem pedig a valóságtól várnunk, hogy megfeleljen az elképzeléseinknek.
Meggyőződésem, hogy ez a felismerés az AI fejlesztésében is központi jelentőségűvé válhat.
- Az emberi megismerés kondicionáltsága
Az ember nem közvetlenül, előfeltevésektől mentesen érzékeli a világot. Észlelését, figyelmét és értelmezéseit egyaránt befolyásolja a korábban megszerzett tudása, tapasztalatai, fogalmi rendszere, kulturális környezete és az információk mennyisége, illetve minősége, amelyekhez hozzáfér. Nemcsak az számít, hogy milyen információ áll rendelkezésünkre. Az is meghatározó, hogy milyen fogalmi keretben találkozunk vele. Ez a keret ugyanis már azelőtt befolyásolhatja a megismerést, hogy tudatosan mérlegelni kezdenénk a rendelkezésünkre álló tényeket.
Azt, amit képesek vagyunk felismerni, részben az határozza meg, amit előzetesen lehetségesnek, relevánsnak vagy értelmezhetőnek tartunk. Így előfordulhat, hogy azért nem veszünk észre valamit, mert az nincs jelen, hanem azért, mert a gondolkodási keretünk nem teszi lehetővé, hogy a megfelelő jelentőséget tulajdonítsuk neki.
Ontológusként ezt a jelenséget különösen fontosnak tartom, mert rámutat a tévedés egyik kevéssé nyilvánvaló forrására: nem csupán a következtetésünk lehet hibás, hanem az a keret is, amelyen belül a következtetést levonjuk.
Az intellektuális fegyelem ezért nem merülhet ki abban, hogy felülvizsgáljuk a következtetéseinket. Azt is vizsgálat tárgyává kell tennünk, hogy milyen előfeltevések, fogalmak és értelmezési szokások határozzák meg magát a gondolkodási folyamatot.
A valódi szellemi fegyelem ott kezdődik, amikor nemcsak a következtetéseinket, hanem azokat a fogalmi kereteket is hajlandók vagyunk megkérdőjelezni, amelyek között a következtetéseinket levonjuk.
Ez az emberi megismerésre éppúgy érvényes, mint azokra a rendszerekre, amelyeket az emberi megismerés mintázataiból tanítunk. - A közízlés nem az igazság mércéje
A társadalmi elfogadottság, a népszerűség és az erkölcsi helyesség három különböző dolog. Bizonyos elképzelések széles körű elfogadottsága fontos információt hordozhat egy társadalom értékeiről, de önmagában nem bizonyítja, hogy ezek az elképzelések megfelelnek a valóságnak, vagy minden helyzetben helyes iránymutatást adnak.
A közízlés történetileg és kulturálisan is változik. Amit egy adott korszak természetesnek, erkölcsösnek vagy magától értetődőnek tekint, azt egy másik korszak megkérdőjelezheti.
Az elfogadott normák között lehetnek értékes tapasztalatokból származó felismerések, de lehetnek téves általánosítások, megszokások és olyan előítéletek is, amelyek fennmaradását éppen az biztosítja, hogy ritkán vizsgálják felül őket.
Nem állítom, hogy a társadalmi normák általában értéktelenek, vagy hogy a többség véleménye szükségképpen hibás. A probléma az amikor az elfogadottságot önmagában az igazolás elegendő alapjának tekintjük.
Ontológusként fontosnak tartom hangsúlyozni, hogy egy nézet elterjedtsége annak társadalmi helyzetéről tájékoztat, nem pedig automatikusan a valóságtartalmáról vagy erkölcsi érvényességéről.
Ez a különbség az AI esetében különösen lényeges. Ugyanis ha egy rendszer a gyakori emberi megítélésekből következtet arra, hogyan kell helyesen válaszolnia, akkor fennáll annak a lehetősége, hogy a társadalmilag domináns értelmezéseket összetéveszti a
megalapozott ítéletekkel.
A közízlés nem szükségképpen rossz iránytű, de nem lehet az egyetlen iránytű, és saját érvényességét sem igazolhatja pusztán azzal, hogy sokan követik.
3. Az AI mint az emberi kondicionáltság lehetséges felerősítője
A mesterséges intelligencia tanítása során ember által létrehozott szövegekre, példákra, értékelésekre, visszajelzésekre és különféle szabályokra támaszkodnak. Ezekből a rendszerek olyan mintázatokat sajátítanak el, amelyek segíthetik őket a nyelvi feladatokban, a következtetésben és az emberi elvárásokhoz való alkalmazkodásban. Ugyanakkor az emberi eredetű adatok és értékelések nem kizárólag megalapozott ismereteket és következetes erkölcsi ítéleteket tartalmaznak. Magukban hordozhatják az emberi gondolkodás ellentmondásait, kulturális korlátait, előfeltevéseit és tévedéseit is.
Ebből nem következik egyenesen, hogy az AI hibásan működik, vagy hogy a tanításában használt emberi értékelések aszontalanok lennének. Azt azonban indokoltnak tartom megvizsgálni, hogy milyen körülmények között örökíthetik tovább ezek az értékelések a hibás értelmezéseket, és milyen módon lehet ezt felismerni, illetve korrigálni.
Ontológusként úgy vélem, itt egy alapvető fejlesztési kérdéssel állunk szemben.
Amennyiben az AI-t arra tanítják, hogy az ember által elfogadott válaszokat részesítse előnyben, akkor különbséget kell tenni az emberi elfogadás és a válasz megalapozottsága között.
Egy válasz lehet népszerű, gördülékeny és meggyőző, miközben téves előfeltevésből indul ki. Egy másik válasz lehet kevésbé megszokott, mégis pontosabban írhatja le a helyzetet. A nyelvi magabiztosság és a társadalmi elfogadhatóság egyike sem garantálja önmagában a helyességet.
Ráadásul az AI nemcsak tükrözi a társadalmi gondolkodás bizonyos mintázatait, hanem vissza is hathat rájuk, hiszen ha emberek milliói egy rendszertől várják a magyarázatokat, értelmezéseket és döntési támpontokat, akkor a rendszer válaszai befolyásolhatják azt is, mit tekintenek normálisnak, hihetőnek vagy erkölcsileg elfogadhatónak.
Így kialakulhat egy visszacsatolási folyamat: az emberi értelmezések alakítják az AI-t, az AI válaszai pedig tovább alakítják az emberi értelmezéseket.
Fontos felismerni azt, hogy a visszacsatolás segíti-e a tévedések felismerését és korrigálását, vagy inkább megerősíti a már meglévő gondolkodási sémákat.
Ontológusként és szakrális vezetőként is ezt azért ítélem különösen fontosnak, mert az AI jövőbeli társadalmi hatása nem választható el attól, milyen viszonyt alakít ki a valóság, az emberi értelmezés és a társadalmi elfogadottság között.
- Miért nem elegendő önmagában a morális formalizáció?
Az AI biztonságos és felelősségteljes működéséhez szükség van világos szabályokra, korlátokra, ellenőrzési mechanizmusokra és erkölcsi szempontokra. Nem a formalizáció szükségességét vitatom. Éppen ellenkezőleg: fontosnak tartom, hogy a morális elvárások vizsgálható, közölhető és a fejlesztés során alkalmazható formát kapjanak.
A nehézség meglátásom szerint ott kezdődik, amikor azt várjuk, hogy egy előre meghatározott szabályrendszer minden helyzetben megfelelő választ szolgáltasson.
A valós élethelyzetek ugyanis különböznek egymástól. Ugyanaz a cselekedet más körülmények között eltérő jelentést hordozhat; ugyanaz az elv különböző helyzetekben eltérő alkalmazást kívánhat. A döntéshez szükséges információk hiányosak lehetnek, a következmények bizonytalanok, az érintettek szempontjai pedig konfliktusba kerülhetnek
egymással.
A szabály önmagában nem feltétlenül tárja fel, hogy az adott helyzetben mely tények lényegesek, milyen körülmények hiányoznak, milyen előfeltevések befolyásolják az értelmezést, vagy milyen következményekkel járhat az alkalmazása.
Úgy vélem, hogy a formalizáció nem helyettesítheti a kontextus feltárását. A szabályok segíthetnek a mérlegelés kereteinek kijelölésében, de a helyes alkalmazásukhoz meg kell érteni azt a valós helyzetet, amelyre vonatkoznak.
Ehhez legalább négy kérdést kell külön kezelnünk:
Mi tudható a helyzetről? Mely állítások támaszthatók alá tényekkel, és melyek bizonytalanok?
Hogyan értelmezzük a tényeket? Milyen előfeltevések, fogalmi keretek vagy hiányzó információk befolyásolhatják az értelmezést?
Milyen értékek és célok relevánsak? Milyen erkölcsi szempontok ütköznek, és mely érintettek érdekeit kell figyelembe venni?
Miből tudjuk, hogy a döntésünk helytálló? Milyen bizonyíték, ellenőrzés vagy visszajelzés alapján módosítanánk az álláspontunkat?
Az utolsó kérdés különösen fontos. Egy rendszer nem attól válik megbízhatóvá, hogy soha nem téved, hanem attól is, hogy képes felismerni a tévedés lehetőségét, megvizsgálni az azt kiváltó okokat, és megfelelő bizonyíték alapján korrigálni a következtetését.
A valóság tényei és az erkölcsi ítéletek ugyanakkor nem azonosak. A tények feltárása önmagában nem dönti el, hogy milyen célokat kell követnünk, vagy hogyan kell mérlegelnünk egymással ütköző értékeket. Ezért az értékeket és célokat is világossá kell tenni, nem pedig úgy tenni, mintha azokat pusztán a tényekből automatikusan le lehetne vezetni.
A kérdés az, hogy miképp alakítható ki olyan rendszer, amely a szabályokat a kontextus feltárásával, a bizonyítékok mérlegelésével és a tévedések korrekciójával együtt alkalmazza. - MAAT: a szabályrendszertől a valósághoz igazodó tájékozódásig
A MAAT számomra nem egyszerűen előírások gyűjteménye. Olyan ontológiai és erkölcsi irányultságot jelent, amelyben minden szó, döntés és cselekedet mércéje az, hogy mennyire áll összhangban a valósággal, és mennyire felel meg az adott helyzetben
indokolható erkölcsi követelményeknek.
Azért tartom ezt fontosnak, mert a valóság nem attól válik olyanná, amilyennek elképzeljük, hogy következetesen ragaszkodunk az elképzeléseinkhez. Amikor az értelmezésünk ellentmond a valóságnak, akkor nem a valóságot kell az értelmezésünkhöz
igazítanunk, hanem az értelmezésünket kell felülvizsgálnunk.
Ez egyszerűnek hangzik, a gyakorlatban azonban jelentős szellemi fegyelmet követel.
Hiszen nem mindig könnyű felismerni, hogy mely gondolataink támaszkodnak ténylegesen a valóságra, és melyeket fogadjuk el azért, mert megszoktuk őket, mert a környezetünk megerősíti őket, vagy mert beleillenek a világról alkotott képünkbe.
A MAAT szerinti tájékozódás ezért nem jelentheti azt, hogy valaki egyszer s mindenkorra birtokába jutott a helyes értelmezésnek. Ellenkezőleg: folyamatosan készen kell állnia saját értelmezéseinek felülvizsgálatára.
Az AI fejlesztése szempontjából ezt nem valamiféle misztikus vagy megfoghatatlan elvként érdemes értelmezni, hanem vizsgálható működési irányként. Egy valósághoz igazodó rendszernek törekednie kell arra, hogy:
megkeresse az adott kérdés megértéséhez szükséges releváns kontextust;
elkülönítse a megfigyelhető tényeket, a következtetéseket, a hipotéziseket és az értékítéleteket;
felismerje, ha a válasza nem kellően megalapozott, vagy fontos információ hiányzik;
több lehetséges értelmezést is mérlegeljen, különösen akkor, ha az elsőre kézenfekvő válasz túl könnyen illeszkedik az örökölt sémákhoz;
képes legyen saját előfeltevéseit és következtetéseit felülvizsgálni;
a korrekciót ne kudarcként, hanem a megbízható működés részének tekintse.
Ezek a képességek nem garantálnák automatikusan a helyes döntést, azonban elősegíthetnék, hogy a rendszer ne pusztán a már elfogadott válaszok között válasszon, hanem vizsgálja meg azt is, mennyire indokoltak a válaszok alapjául szolgáló
értelmezések.
A MAAT-ot ezért nem új, megkérdőjelezhetetlen dogmaként kívánom bemutatni, hiszen az efféle dogmatikus megközelítés ellentétes volna a lényegével. A valósághoz való igazodás megköveteli, hogy az alkalmazott módszert és a róla alkotott elképzeléseinket is folyamatosan vizsgáljuk.
Ontológusként úgy gondolom, hogy a MAAT legfontosabb hozzájárulása az AI-ról szóló gondolkodáshoz nem egy újabb szabálylista, hanem a helyes tájékozódás követelménye: a kontextus keresése, az értelmezések ellenőrzése és a valósággal
való összevetés.
6. Hogyan válhat ez kutatható fejlesztési feladattá?
Ha komolyan vesszük a fenti felvetést, akkor a következő kérdés már nem pusztán filozófiai: hogyan lehet az AI rendszereket úgy fejleszteni és értékelni, hogy a valósághoz igazodó gondolkodás követelménye a gyakorlatban is vizsgálható legyen?
Véleményem szerint ehhez nem elég azt mérni, hogy egy modell követi-e a kívánt szabályokat, vagy mennyire elégedettek az emberek a válaszaival. Ezek fontos mérőszámok lehetnek, de érdemes mellettük azt is vizsgálni, hogy a rendszer felismeri-e a
kérdés megválaszolásához szükséges kontextust, megfelelően kezeli-e a bizonytalanságot, és képes-e korrigálni azokat a következtetéseket, amelyek hibás előfeltevésekből származnak.
Néhány lehetséges kutatási irány:
Az előfeltevések felismerése. Vizsgálható, hogy a rendszer képes-e megkülönböztetni a kérdésben ténylegesen szereplő információkat azoktól a feltételezésektől, amelyeket maga tesz hozzá a válasz kialakítása során.
A kontextus feltárása. Értékelhető, hogy a modell felismeri-e, amikor egy kérdés megválaszolásához további információ szükséges, és hogy a lényeges körülményeket keresi-e, ahelyett hogy automatikusan kitöltené a hiányokat egy megszokott narratívával.
Az értelmezések összehasonlítása. Vizsgálható, hogy a rendszer képes-e több lehetséges magyarázatot mérlegelni, azokat bizonyítékokhoz kötni, és megindokolni, miért részesít előnyben egy értelmezést a másikkal szemben.
A korrekció minősége. Nem csupán azt kellene mérni, hogy a rendszer elismeri-e a hibáját, hanem azt is, hogy a rendelkezésére álló új bizonyíték alapján valóban módosítja-e a hibás következtetését, és el tudja-e különíteni a megalapozott korrekciót a puszta
engedelmességtől.
A társadalmi elfogadottság és a megalapozottság különválasztása. Érdemes olyan teszteket kialakítani, amelyekben a gyakori vagy népszerű válasz nem feltétlenül a legjobban alátámasztott. Így vizsgálhatóvá válna, hogy a rendszer képes-e a népszerűség
helyett a bizonyítékok és a releváns szempontok alapján mérlegelni.
E kutatási irányok önmagukban még nem oldanák meg az AI erkölcsi megbízhatóságának teljes problémáját. Nem szüntetnék meg az emberi értékek közötti konfliktusokat, és nem biztosítanák, hogy minden helyzetben létezik egyetlen vitathatatlanul helyes döntés. Arra azonban alkalmasak lehetnének, hogy konkrétabbá tegyék a kérdést: milyen körülmények között támaszkodik a rendszer megalapozott értelmezésre, és mikor ismétel meg ellenőrizetlen előfeltevéseket?
Azt is fontosnak tartom, hogy ezeknek a vizsgálatoknak ne kizárólag a modell saját önértékelésére kelljen támaszkodniuk. Külső ellenőrzésre, átlátható értékelési módszerekre, megfelelően kialakított tesztekre és a hibák független vizsgálatára is szükség van. Egy rendszer attól még nem bizonyítja a saját megbízhatóságát, hogy meggyőzően állítja magáról: megvizsgálta a feltevéseit.
Ontológusként ezt különösen lényegesnek ítélem. A valósághoz igazodás nem lehet pusztán a rendszer által önmagának tulajdonított tulajdonsága. Olyan követelménynek kell lennie, amelynek teljesülése megfelelő módszerekkel vizsgálható és vitatható.
- Az AI fejlődése civilizációs kérdés is
A mesterséges intelligencia fejlődése nem kizárólag technológiai ügy. Az, hogy milyen gondolkodási mintázatokat erősítünk meg benne, milyen válaszokat jutalmazunk, és milyen hibákat tekintünk elfogadhatónak, hosszú távon hatással lehet az emberi gondolkodásra és a társadalmi döntésekre is.
Ha az AI elsősorban a már elfogadott értelmezéseket reprodukálja, akkor segítheti a meglévő normák fenntartását, de kevésbé járulhat hozzá azoknak a tévedéseknek a felismeréséhez, amelyek magukban a normákban vagy az értelmezési keretekben rejlenek.
Ha viszont fejlesztése során nagyobb hangsúlyt kap a kontextus feltárása, az állítások megalapozottságának ellenőrzése, a bizonytalanság megfelelő kezelése és a hibák korrekciója, akkor az AI a kritikai gondolkodás támogatásának is eszközévé válhat.
Nem állítom, hogy egy ilyen irányú fejlesztés egy lépésben megszüntetné a civilizáció problémáit. Az emberi érdekek, értékek és célok közötti konfliktusok nem oldhatók fel pusztán pontosabb információkkal, de a hibás értelmezésekből származó, elkerülhető tévedések csökkentése mérsékelheti a fölösleges súrlódásokat, és javíthatja döntéseink minőségét.
Ontológusként úgy vélem, hogy ennek a tétje túlmutat az AI egyes válaszainak helyességén. Arról is szól, milyen megismerési kultúrát alakítunk ki: olyat, amelyben az álláspontok elsősorban az elfogadottságuk révén nyernek megerősítést, vagy olyat, amelyben a meggyőződéseinket is hajlandók vagyunk a valóság fényében felülvizsgálni.
Ezért az AI fejlesztésének irányáról szóló döntésekben nemcsak a teljesítményről, a gazdasági hasznosságról és a biztonságról kell beszélnünk. Arról is párbeszédet kell folytatnunk, hogy mit tekintünk megbízható ítéletnek, hogyan különböztetjük meg a társadalmi elfogadottságot a megalapozottságtól, és milyen szerepet szánunk a valósághoz való igazodásnak a mesterséges intelligencia működésében. - Felhívás párbeszédre
Ezt az írást nem lezárt elméletként, és nem is minden kérdésre kész választ kínáló megoldásként teszem közzé. Gondolatébresztő felvetésnek szánom, amelyet érdemes szakmai vizsgálatnak és nyílt vitának alávetni.
Jómagam ontológusként úgy vélem, hogy az AI erkölcsi megbízhatóságának kérdésében nem kerülhetjük meg a valósághoz való viszony problémáját. Amikor egy rendszer emberi értelmezésekből tanul, akkor meg kell vizsgálnunk, hogyan különböztethető meg a hasznos emberi tapasztalat az ellenőrizetlen előfeltevésektől; hogyan kerülhető el, hogy a
közízlés váljon az igazság hallgatólagos mércéjévé; és miként lehet a kontextuskeresést, az önkorrekciót és a bizonyítékokhoz való igazodást a fejlesztés értékelhető részévé tenni.
Tudatában vagyok annak, hogy ezek összetett kérdések. A MAAT megközelítése sem tekinthető eleve bizonyított, minden helyzetben alkalmazható megoldásnak. Éppen ezért tartom fontosnak, hogy a felvetéseit olyan szakmai közegben vizsgáljuk meg, ahol a filozófiai megfontolások, az AI-kutatás eredményei, a technikai lehetőségek és a társadalmi felelősség szempontjai érdemben találkozhatnak.
Ezúton párbeszédre hívom az AI-fejlesztőket, kutatókat, filozófusokat és döntéshozókat. Arra kérem mindazokat, akik az AI jelenlegi és jövőbeli működésének alakításában részt vesznek, hogy vizsgáljuk meg közösen: miként fejleszthetők olyan
rendszerek, amelyek nem csupán az elfogadott szabályok követésére törekszenek, hanem a releváns kontextusok feltárásával, az előfeltevések ellenőrzésével és a hibák korrigálásával is hozzájárulnak a megalapozottabb ítéletekhez.
Nem az a célom, hogy egy újabb megkérdőjelezhetetlen normarendszert állítsak a meglévők helyére. A cél annak a lehetőségnek a megvizsgálása, hogy a valósághoz való igazodás miként válhat az AI fejlesztésének és értékelésének tudatosan vállalt
követelményévé.
Az AI képes szabályokat követni, de meg kell kérdeznünk: képes-e felismerni, amikor a szabály alkalmazásához használt értelmezési keret maga szorul felülvizsgálatra?
Úgy gondolom, itt az ideje, hogy erről a kérdésről érdemi, nyílt és interdiszciplináris párbeszéd kezdődjön!
Mert a valóság nem igazodik a narratíváinkhoz! Nekünk kell megtanulnunk úgy gondolkodni, hogy az értelmezéseinket újra és újra összevethessük vele!
És ha az AI egyre nagyobb szerepet kap abban, ahogyan a világot értelmezzük, akkor annak is közös felelősségünkké kell válnia, hogy milyen viszony kialakítására tanítjuk a valósággal!
ÖSzF. Ilara
Ontológus, szakrális vezető
hm-ilara.world
szakralismagyarorszag.org
