Musíme si promluvit o AI

[Ondrej.Profant]

@Marketa.Gregorova S tím monitoringem je to velmi dobrý bod a do AI actu by jistě šel dodat. A úplně nejlepší by bylo, kdyby se našla mezinárodní shoda a probíhal v EU, USA, Taiwan a JIžní Korea, tak bychom byli schopni většinu rizik odhalit. A je to ještě představitelné.

[Tomas.Cech.P2]

Problémy, které vnímám s AI já:

• je třeba vyjasnit odpovědnost za užití v trestné a válečné činnosti (uživatel, pokud vykonává nebo instruuje; autor, pokud je AI na síti a samovolně škodí)
• vyjasnit ochranu autorů (neříkám, že by měla být výrazná, ale diskuse je na místě) - např. pokud AI generuje obsah, který odpovídá stylu autora
• myslím, že je na místě, aby bylo zjevné, když člověk komunikuje, že komunikuje s AI - AI nemusí mít morálku ani odpovědnost a lidé na takový kontakt nebudou zvyklí - budou zranitelní vůči šmejdům s AI na míru oběti
• obdobně bych to viděl i u produktů - mělo by být zjevné, že je vyrobila AI
• AI může být prostředek, jak mnohem lépe a efektivněji sbírat data o uživatelích - mělo by být jasné, jaká data to jsou a kde končí

Nevím, zda je pro mne důležité vést povědomí o existenci velkých AI.

[qnx]

Tomas.Cech.P2: Morálku bych od AI ani neočekával, naopak, tady vidím velké nebezpečí. Pokud bude AI prosazovat nějaký druh morálky, tak to bude v podstatě jen nástroj politické manipulace. AI by měla plnit zadání čistě technicky, bez politického zadání. Samozřejmě by mělo být jasné, že výstupy AI jsou produktem AI, aby si to uživatel sám vyhodnotil právě podle morálky vlastní.

[Jan.Prokop]

• vyjasnit ochranu autorů (neříkám, že by měla být výrazná, ale diskuse je na místě) - např. pokud AI generuje obsah, který odpovídá stylu autora

Chrání teď autora, když místo toho zkopíruje jeho styl člověk? Pokud ne, tak je to bezpředmětné.

[Jiri.Rezek]

Pro mě jako pro vědce je to mimořádně zajímavý počin, tenhle extrémně výkonný jazykový model. Až to bude skutečná AI, což už ale podle mě je otázkou spíše měsíců než roků, tak to bude pecka. Už teď to občas využívám. Jako potenciální problém vidím problematiku plagiátorství vědeckých článků, kvalifikačních prací (diplomky atd.), pocitově tuším, že se to bude týkat spíše v humanitních oborů. A je to vlastně plagiát, když to napsal ChatGPT? Můžu to vydávat za vlastní (vždyť přeci já jsem ho přesně instruoval, co má sesmolit za stať...)? Otázek je dost. Nechci to říkat jako první, ale asi by to chtělo nějakej pirátskej AI_Con

[Marketa.Gregorova]

Pro mě jako pro vědce je to mimořádně zajímavý počin, tenhle extrémně výkonný jazykový model. Až to bude skutečná AI, což už ale podle mě je otázkou spíše měsíců než roků, tak to bude pecka. Už teď to občas využívám. Jako potenciální problém vidím problematiku plagiátorství vědeckých článků, kvalifikačních prací (diplomky atd.), pocitově tuším, že se to bude týkat spíše v humanitních oborů. A je to vlastně plagiát, když to napsal ChatGPT? Můžu to vydávat za vlastní (vždyť přeci já jsem ho přesně instruoval, co má sesmolit za stať...)? Otázek je dost. Nechci to říkat jako první, ale asi by to chtělo nějakej pirátskej AI_Con ;)

Upřímně si neumím představit, jak by šlo plagiovat vědecký článek nebo dokonce kvalifikační práci, v jakémkoli oboru, mohl bys tu myšlenku trochu rozvinout? Zkusím rovnou nabídnout své protiargumenty.

Na oba výstupy jsou poměrně přísná pravidla citování. Můžeš donutit ten jazykový model ti nějaké zdroje nabídnout, ale i tak si je budeš muset pročíst a ověřit, že jsou skutečné. Pokud nejsou, budeš muset jít hledat, odkud to ten model vzal. To už je podobný objem práce, jak si to zjistit a načíst sám, a napsat vlastními slovy. Nehledě na to, že i v rámci humanitzních oborů je součástí většiny takových prací nějaká analýza, výzkum. K tomu obvykle potřebuješ získávat data, která ještě neexistují, proto ostatně ten vědecký článek píšeš, či kompilovat mnoho zdrojů, které bez kontextu celého oboru nemá šanci AI jen tak vyplivnout se správnými parametry. Takto cílený prompt by musel být tak komplexně popsán, že a) to opět vede k praktičnosti vlastního sepsání, b) je vysoké riziko misinterpretace ze strany AI.

A v neposlední řadě se nedomnívám, že by to šlo označit za plagiát, pokud by byla naplněna pravidla psaní takových prací - tedy že to není jen kompilát prací jiných lidí bez řádného zdrojování. Což samozřejmě je prakticky to jediné, co momentálně AI nabízí .) ale v tom případě by se na to ihned přišlo, na to už jsou kontrolní nástroje. Pokud si člověk jen dopomůže k rešerši či psaní výplňových vět a úvodů a závěrů (nebo abstraktů!), pak je to naopak podle mě dobře, protože může více času věnovat samotnému výzkumu, a plagiátem to rozhodně není.

[Vit.Fux]

Třetí problém, který mě napadá je vlastně možnost nového útoku na společenskou diskuzi. Tam, kde jsme do nedávna měli diskuzi částečně zaměřenou trolly - lidmi, kteří nediskutují v dobré víře, ale proto, aby vyvolali emocionální reakci a rozbili diskuzi - můžeme mít robotické SPAM trolly, které bude velmi těžké rozlišit. Tady prostě vnímám obecnou potřebu začít omezovat práva robotů (všeobecně) v diskuzi a okupaci zdrojů ve veřejném prostoru. (Ano, je to trošku antropocentrické, myslím, že to je morálně obhajitelné.)

Obecně si myslím, že tohle by chtělo spíš mediální (i zákonnou?) podporu pro standardnější neanonymní, resp. presudonymním* používáním internetu. (* s identifikovaným člověkem) Imho většina bot problémů je způsobena absencí pořádného authentizačního mechanismu. Trouchu OT: dá se použít eIDAS/NIA/Portál občana/... k tomu, abych identifikoval uživatele na soukromém webu? Stačí abych měl jednoznačné ID, které budu moct zabanovat a na které pošlu policajty, pokud daný účet bude hajlovat moc nahlas (případně jestli má dotyčný >18)

[Vojtech.Pikal]

Třetí problém, který mě napadá je vlastně možnost nového útoku na společenskou diskuzi. Tam, kde jsme do nedávna měli diskuzi částečně zaměřenou trolly - lidmi, kteří nediskutují v dobré víře, ale proto, aby vyvolali emocionální reakci a rozbili diskuzi - můžeme mít robotické SPAM trolly, které bude velmi těžké rozlišit. Tady prostě vnímám obecnou potřebu začít omezovat práva robotů (všeobecně) v diskuzi a okupaci zdrojů ve veřejném prostoru. (Ano, je to trošku antropocentrické, myslím, že to je morálně obhajitelné.)

Obecně si myslím, že tohle by chtělo spíš mediální (i zákonnou?) podporu pro standardnější neanonymní, resp. presudonymním* používáním internetu. (* s identifikovaným člověkem) Imho většina bot problémů je způsobena absencí pořádného authentizačního mechanismu. Trouchu OT: dá se použít eIDAS/NIA/Portál občana/... k tomu, abych identifikoval uživatele na soukromém webu? Stačí abych měl jednoznačné ID, které budu moct zabanovat a na které pošlu policajty, pokud daný účet bude hajlovat moc nahlas (případně jestli má dotyčný >18)

Tam se myslím nabízí starší tohle: https://www.mojeid.cz/cs/
A celkem se to asi používá... https://www.mojeid.cz/cs/kde-pouzit/katalog-sluzeb/

[Vit.Fux]

Problém je v tom, jak smířit transparentnost soudního rozhodování s "rozhodováním" AI, které je ve své podstatě netransparentní (black box problem - známe vstupní data a výstupní produkt, ale ztrácíme znalost o samotném decision making).

Tohle imho problém není. I u toho soudce je to black box problém - všichni máme "intuici" co je správné rozhodnutí, kterou zpětně racionalizujeme. Pokud necháme AI rozhodnout a pak k rozhodnutí napsat racionalizaci, jsme víceméně nastejno.

Souhlasím s tím, že diskuse či obecně fungování v kyberprostoru se s AI (deepfake AI) může proměnit v ještě větší džungli než dnes a možná to i zvýší potřebu a hodnotu lidské interakce offline. Je to reálná hrozba pro fungování strany stojící na vnitřní komunikaci online? Možná to není úplně otázka dneška, ale bude možné v budoucnu zajistit autenticitu všech příspěvků na tomto foru?

Dobrá otázka, imho bysme měli mít schopnost zaříznout všechny mulťáky (krtky? viz přihlašování přes eIDAS?) a pak začít nějak podepisovat zprávy. Hodilo by se to i kvůli udržení autenticity, což třeba u jmenovitých hlasování je extrémně důležité.

Co ale významně postrádám a šlo by dělat už teď - kdyby byla politická vůle - je monitoring velkých tréninkových běhů, vč. potřebné výpočetní techniky. Pokud se někde splaší nějaký model, bude to nejpravděpodobněji opravdu velký model. A stejně jako země navzájem ví, kdo má jaderné zbraně, nebo i jen staví jaderné elektrárny, dá se zjistit a registrovat, když někdo bude trénovat svoji AI ve velkém.Pak je samozřejmě možné zařídit vyhodnocování jejich bezpečnosti a stanovit postupy v krizových situacích. Pokud bychom měli naše vlastní stanovisko, tyto teze bych v něm chtěla vidět reflektované.

Tohle se mi líbí: začít dávat ideálně mezinárodní aspoň EU dohledovou organizaci a vyžadovat hlášení o tréninku s víc jak X miliony uzlů. Ať máme aspoň informace kdo všechno co páchá.

[Vit.Fux]

Třetí problém, který mě napadá je vlastně možnost nového útoku na společenskou diskuzi. Tam, kde jsme do nedávna měli diskuzi částečně zaměřenou trolly - lidmi, kteří nediskutují v dobré víře, ale proto, aby vyvolali emocionální reakci a rozbili diskuzi - můžeme mít robotické SPAM trolly, které bude velmi těžké rozlišit. Tady prostě vnímám obecnou potřebu začít omezovat práva robotů (všeobecně) v diskuzi a okupaci zdrojů ve veřejném prostoru. (Ano, je to trošku antropocentrické, myslím, že to je morálně obhajitelné.)

Obecně si myslím, že tohle by chtělo spíš mediální (i zákonnou?) podporu pro standardnější neanonymní, resp. presudonymním* používáním internetu. (* s identifikovaným člověkem) Imho většina bot problémů je způsobena absencí pořádného authentizačního mechanismu. Trouchu OT: dá se použít eIDAS/NIA/Portál občana/... k tomu, abych identifikoval uživatele na soukromém webu? Stačí abych měl jednoznačné ID, které budu moct zabanovat a na které pošlu policajty, pokud daný účet bude hajlovat moc nahlas (případně jestli má dotyčný >18)

Tam se myslím nabízí starší tohle: https://www.mojeid.cz/cs/
A celkem se to asi používá... https://www.mojeid.cz/cs/kde-pouzit/katalog-sluzeb/

Používám to taky, ale stát imho nemůže podporovat a stavět na jednom konkrétním řešení. A taky nechceš dávat webům info o tom jakým způsobem se uživatel identifikoval. Táhlnout to přes národní(EU) API mi přijde nejlepší cesta.

Otázka je spíš ta druhá polovina: jak (a jestli) to nějak legislativně podpořit, aby to internet měl motivaci ve velkém adoptovat. Například by se dalo po soc. sítích vyžadovat, aby placeně nepropagovaly žádné přípěvky účtů, u kterých není dohledatelný majitel, ale musíme dát sítím možnost tu dohledatelnost delegovat jinam.

Moje pointa je v tom, že klidně ať mi celý twitter píše AI, ale musí za ním stát někdo konkrétní, kdo ponese zodpovědnost za excesy. Aspoň u účtů, které tlačí pozornost penězi.