Dobrý den/večer, rád bych vás uvedl do reality a následně se tím vrátil k regulovatelnosti.
(můžete si též přečíst můj vlastní popis AI zde, ale vysvětlím zde to důležité.)
AI není to, co vám tvrdí. AI je statistický model, nepřemýšlí. (AI vůbec není inteligence, to je jen marketing)
Je to stále jen algoritmus (vlastně matematická funkce stvořená algoritmicky) a právě proto má své problémy (a řešení... ale jiná, než ze sci-fi, tohle není GAI = obecná/univerzální/skutečná inteligence).
Mluvilo se zde o fenoménu Komnaty ozvěn, což je polarizující efekt,
lidsky řečeno: když něčemu věříte, tak Vám "to" bude říkat, že to tak je (nehledě na to, čemu věříte, prostě to polarizuje = zesiluje jakoukoliv víru v cokoliv).
Dříve to byl jen psychologický jev, dnes je to jev algoritmický = google, facebook, ... = všichni, co žijí z reklam, se vám budou snaži servírovat, co si jejich algoritmus myslí, že chcete vidět, abyste klikli na jejich reklamu.
(korektněji: Žijí z reklam, tedy z těch, na které kliknete. Jak zvýší pravděpodobnost, že kliknete? Tím, že vám dají, co chcete vidět... jak to poznají? ...ďábel je v detailu: podle toho, na co jste již klikli, co hledali.)
To vůbec není o AI, to je o automatizovaných systémech obecně (AI je jen podskupina).
Jak automatizované systémy uřídit a regulovat? To je ta správná otázka!
Odpověď: stejně jako lidi. Systémem pravidel, příkazů, zákazů, kontrol, soudů a zlepšení (trestů... špatně, ale to je jiné téma).
Moje odpověď: klasifikovat závažnost, standardizovat (algoritmickou) kontrolu a meze = AI je black-box, něco co si dělá co chce, nekontrolovatelné - kontrolujme vstupy a výstupy (nic proti standardizaci vývoje AI, ale to je mimo legislativu).
Tedy: AI dejme vstupy a kontrolujme výstupy, tedy pravomoce. Standardizujme MCU = kontrolní počítač, který AI nedovolí dělat, co nechceme (filtrace výstupů, vlastně rovnou možnosti ovládání)
P.S.: Představte si algoritmus, jehož jediným cílem je maximalizovat šanci, že kliknete na reklamu, co udělá?
Představte si algoritmus, který má maximalizovat výrobu sponek na papíry (paper-clip-maximizer), co udělá?
Ovládne burzu, aby měl jak nakupovat materiál, pak ovládne lidstvo, aby vyrábělo, protože tomu algoritmu/AI je to jedno, má toho vyrobit co nejvíce, jakkoliv.
(To není až tak úplně SCI-FI, to je legitimní vědecký obor, teoretická informatika, asi jako matematika či teoretická fyzika, uvažuje to s nekonečnem, bez omezení... a právě to musíme AI dát: omezení, vnější!)