Regulace AI

Moderátoři: Rada resortních týmů - členové, Resortni tym Informatika

Pravidla fóra
Vítejte ve fóru resortního týmu Informatika. Kalendář akcí a další informace najdete na internetové stránce týmu.
radomirpolach
Příznivec Pirátů – Zlínský kraj
Příspěvky: 405
Registrován: 23 úno 2017, 02:47
Profese: Head of DevOps, Software Engineer
Dal poděkování: 27 poděkování
Dostal poděkování: 234 poděkování

Re: Regulace AI

Příspěvek od radomirpolach »

Vit.Jurasek píše: 25 srp 2021, 10:08

Já bych teda rád aby "nám AI vládla" a co nejdřív. Jen by to nemusela být neprůhledná AI v rukou korporace cizího státu, ale transparentní v rukou našeho a s datasety pod kontrolou našich politiků.
S tím co předvádí podstatná část "našich zástupců" tak i náhodné rozhodování bude lepší a systém protivah a brzd by měl odstínit příšerné nápady ať už je vymyslí AI nebo blbeček z SPD nebo ANOfertu.

Tohle považuji jako šílenství. Pokud by měla AI o něčem rozhodovat, musela by být pod kontrolou nezávislé součásti státu podobně jako je tomu Ústavní soud, ČNB atd.

firda
Návštěvník – nepatří k Pirátům
Příspěvky: 131
Registrován: 06 zář 2022, 20:09
Dal poděkování: 32 poděkování
Dostal poděkování: 29 poděkování

Re: Regulace AI

Příspěvek od firda »

Dobrý den/večer, rád bych vás uvedl do reality a následně se tím vrátil k regulovatelnosti.
(můžete si též přečíst můj vlastní popis AI zde, ale vysvětlím zde to důležité.)

AI není to, co vám tvrdí. AI je statistický model, nepřemýšlí. (AI vůbec není inteligence, to je jen marketing)
Je to stále jen algoritmus (vlastně matematická funkce stvořená algoritmicky) a právě proto má své problémy (a řešení... ale jiná, než ze sci-fi, tohle není GAI = obecná/univerzální/skutečná inteligence).

Mluvilo se zde o fenoménu Komnaty ozvěn, což je polarizující efekt,
lidsky řečeno: když něčemu věříte, tak Vám "to" bude říkat, že to tak je (nehledě na to, čemu věříte, prostě to polarizuje = zesiluje jakoukoliv víru v cokoliv).
Dříve to byl jen psychologický jev, dnes je to jev algoritmický = google, facebook, ... = všichni, co žijí z reklam, se vám budou snaži servírovat, co si jejich algoritmus myslí, že chcete vidět, abyste klikli na jejich reklamu.
(korektněji: Žijí z reklam, tedy z těch, na které kliknete. Jak zvýší pravděpodobnost, že kliknete? Tím, že vám dají, co chcete vidět... jak to poznají? ...ďábel je v detailu: podle toho, na co jste již klikli, co hledali.)

To vůbec není o AI, to je o automatizovaných systémech obecně (AI je jen podskupina).
Jak automatizované systémy uřídit a regulovat? To je ta správná otázka!

Odpověď: stejně jako lidi. Systémem pravidel, příkazů, zákazů, kontrol, soudů a zlepšení (trestů... špatně, ale to je jiné téma).
Moje odpověď: klasifikovat závažnost, standardizovat (algoritmickou) kontrolu a meze = AI je black-box, něco co si dělá co chce, nekontrolovatelné - kontrolujme vstupy a výstupy (nic proti standardizaci vývoje AI, ale to je mimo legislativu).
Tedy: AI dejme vstupy a kontrolujme výstupy, tedy pravomoce. Standardizujme MCU = kontrolní počítač, který AI nedovolí dělat, co nechceme (filtrace výstupů, vlastně rovnou možnosti ovládání)

P.S.: Představte si algoritmus, jehož jediným cílem je maximalizovat šanci, že kliknete na reklamu, co udělá?
Představte si algoritmus, který má maximalizovat výrobu sponek na papíry (paper-clip-maximizer), co udělá?
Ovládne burzu, aby měl jak nakupovat materiál, pak ovládne lidstvo, aby vyrábělo, protože tomu algoritmu/AI je to jedno, má toho vyrobit co nejvíce, jakkoliv.
(To není až tak úplně SCI-FI, to je legitimní vědecký obor, teoretická informatika, asi jako matematika či teoretická fyzika, uvažuje to s nekonečnem, bez omezení... a právě to musíme AI dát: omezení, vnější!)

Základem jakékoliv diskuze je ochota přijmout (či alespoň pochopit) jiný názor. Jinak to není diskuze ale paralelní monology.

Odpovědět

Zpět na „Informatika“