Diskuze moderovaná veřejnou a transparentní AI

Diskuse s veřejností a místo pro její podněty a připomínky


Moderátor: Komise předsedajících

Pravidla fóra
Uživatelský avatar
Pavel.Moravec
Návštěvník – nepatří k Pirátům
Příspěvky: 2768
Registrován: 27 dub 2011, 17:25
Profese: IT
Bydliště: Brno Bystrc
Dal poděkování: 4262 poděkování
Dostal poděkování: 2666 poděkování

Diskuze moderovaná veřejnou a transparentní AI

Příspěvek od Pavel.Moravec »

Zdravím z břehu na pirátskou palubu. Mám nápad, který by zdaleka nejlépe prosadili právě Piráti. Nápad má několik variant a možností, ty vždy explicitně uvádím jako varianta. Na žádné konkrétní variantě netrvám, jen je nabízím jako možnosti či případné rozšíření. Různá zdůvodnění dílčích argumentů uvádím v OT OFFTOPICto kvůli přehlednosti.


Základní idea: veřejnost natrénuje transparentní AI na moderaci veřejné diskuze.


Nemyslím teď změnu zdejšího fóra, ale obecně (až) jakoukoliv veřejnou diskuzi na internetu.

Motivace k návrhu a zdůvodnění:OFFTOPICVeřejná diskuze na digitálních platformách je negativně poznamenaná řadou fenoménů typu hate speech, trolling, i nelegální obsah. Známe to snad všichni nejen ze sociálních sítí. V důsledku zde chybí nějaká veřejná platforma na kultivovanou diskuzi o celospolečenských či politických tématech - ať již provozovaná státem nebo soukromým subjektem. Taková diskuze je přitom nutnou katarzí pro domluvu, kam jako společnost vlastně chceme směřovat. Demokracie je založena na dialogu a hledání konsenzu, a toto ve společnosti chybí. I když různé skupiny lidí mají výrazně jiné názory, musíme se jako společnost domluvit na nějakém konsenzu, nějak se spolu slušně bavit. A takové místo není.

Problémem je, jak takovou diskuzi udržet v kultivované rovině. Diskuze na soc.sítích vám rozbije jeden troll či letka hejterů, co vám začnou přát smrt když navrhnete třeba vyšší či nižší daně. Nějaká moderace je potřeba. Ale jaká? Kdo má určovat pravidla? A kdo je má kontrolovat a kdo vymáhat? Jednotliví levně najatí a tedy nekvalitní cenzoři, co prochází příspěvek po příspěvku a porovnávají s nějakými různě vágními pravidly diskuze? To fakt nefunguje.. To často vede k negativní zpětné reakci typu "cenzůra, vždyť já jen.." od pisatele zcenzurovaného příspěvku. Nedej Bože aby takový akt provedl stát, to už by o cenzuru doopravdy šlo. Jenže.. auto-moderace od sociálních sítí samotných nefunguje, zatímco státem vedené moderaci by lidé celkem oprávněně nevěřili. Bylo by moc lehké ji zneužít k nevhodné cenzuře. Leda že by ovšem celý rozhodovací proces neměla v rukou veřejnost!

Opakuji dva základní problémy současného stavu: 1) lidský faktor provádí moderaci - to neškáluje, závisí na lidkském faktoru, velké riziko zneužití v případě státní moderace. 2) diskuze probíhá hlavně na soc.sítích, kde ale auto-regulace brutálně nefunguje. Jenže státní regulaci lze zneužít.

Co vlastně chceme moderovat? Dle jakých pravidel? Co už je za hranou a co ještě ne? Kdo - nebo co - má toto rozhodovat? Kdo určuje morální normy ve společnosti, kterými by se ta moderace měla řídit? Nu, přece společnost sama! Ta má nastaven většinový názor, že napsat "cikáni do plynu" je dost za čarou, zatímco jánevím názor "Fiala i Bartoš myslí jen na sebe" je v pořádku. Právě společnost by měla určovat ta pravidla moderace.

Jak se může společnost dohodnout na takových pravidlech? Nějakým většinovým konsenzem (1).

Jak obsáhlá ta pravidla musí být, aby je šla použít na všemožné diskuzní příspěvky ve všemožných kontextech? Strašně obsáhlá, slovy nepopsatelná. Jen lidský mozek - anebo nějaká simulace myšlení všech lidí - ta pravidla dokáže pojmout. (2)

Jak škálovat takovou moderaci? Nějací najatí Indové pracující za pár dolarů na den asi českou či francouzskou nebo americkou diskuzi moderovat nedokážou. Ale stroje, ty by to dokázaly! (3)

Body (1) až (3) už s dnešními technologiemi lze splnit.

Proto..

Navrhuji ideu následujícího moderačního systému založeném na lidmi natrénované umělé inteligenci:

  • vezmeme nějaký veřejný generický LLM (large language model, umělá inteligence schopná porozumnět danému jazyku) - veřejný, aby šlo vše další nezávisle ověřovat.

  • veřejnost jej natrénuje na rozhodování o vhodnosti příspěvků: vytvoří se vzorová sada příspěvků v diskuzi, a občané budou dobrovolně, pod svým jménem určovat, který příspěvek do slušné diskuze patří, a který ne. Proč občané:OFFTOPIC protože právě občané tvoří danou společnost. Jako variantu lze zahrnout mezi "trénující" také NGOs nebo firmy, ale vše má své pro a proti. Proč pod svým jménem:OFFTOPIC když chci spolurozhodovat o pravidlech veřejné moderace, měl bych být schopen svůj názor obhájit. Zabrání se tím latentním trollům anonymně unést rozhodování směrem k "povolím vše, ale nepřiznám se k tomu". Pokud někdo chce nastavit pravidla veřejné diskuze, aby mohl jánevím vyzývat k organizovanému násilí, má ten postoj zastávat veřejně, aby bylo možné jej s tím zkonfrontovat a on si jej musel obhájit. Lidé spolupodílející se na těch pravidlech zde jsou v roli aktivních politiků, co schvalují "pravidla hry" (zákony). A po politicích také chceme veřejné hlasování, které si jsou schopni obhájit. A co právo na soukromí "spolurozhodujících občanů"?OFFTOPICLidem může vadit zveřejnit svou identitu. Toto lze řešit např. tak jak jsou poloveřejná data v katastru nemovitostí: jednotlivé dílčí informace lze dohledat, ale ne zveřejnit nebo dělat nějaké scrapování.

  • takto natrénovaná AI bude zveřejněna - vše od původního modelu, přes jednotlivá rozhodnutí občanů z trénování až po výslednou neuronovou síť, to vše bude zveřejněné. Transparentost dodá garanci, že zde nikdo necenzuruje svévolně. Ale že tak rozhoduje o nepřístojnosti jednotlivých příspěvků společnost jako celek. Kdokoliv může vzít původní model, natrénovat jej stejnými pravidly a měl by dostat stejný výsledný model. Kdokoliv bude moct ověřit, jak výsledný model zhodnotí ten který příspěvek. Varianta Klidně může být i nějaký sandbox, pískoviště, kde si člověk vyzkouší, jaký příspěvek v jakém kontextu (ne)projde.

  • bude existovat nějaká veřejná diskuzní platforma moderovaná touto AI. Pokud někomu bude vadit zmoderovaný příspěvek, nebude moct obrátit hněv na stát. Může být naštvaný jen na společnost, která prostřednictvím ověřitelného postupu určila, že daný příspěvek je za hranou. Technicky tu platformu ani nemusí provozovat stát! Klidně ať ji provozuje nějaká soukromá firma či NGO. Pokud doloží, že používá takovou "veřejností nagenerovanou moderující AI", bude mít dostatečný punc důvěryhodnosti (stát zde může fungovat jako certifikační autorita, třeba). Jiné platformy (či sociální sítě) můžou outsourcovat moderaci své platformy na tuto moderační AI. Opakuji: můžou. Respektuji právo majitelů soc.sítí si (ne)moderovat své sítě jak chtějí OFFTOPIC(dokud dodržují zákony). Pokud by se chtěly toho ožehavého problému s moderací zbavit, nebo si vylepšit PR, můžou použít tuto externí moderaci OFFTOPIC(a alibisticky si nad moderací umýt ruce). Varianta:OFFTOPICPokud by AI měla v sobě pevně natrénované některé zákony typu podněcování k nenávisti, šlo by pohlížet na platformy využívající tuto AI k moderaci jako automaticky zákonů dbalé, a stát by se třeba vůbec nemusel zabývat podněty na nelegálnost příspěvků z dané platformy - už trochu styl "AI ověřuje platnost zákonů"

  • Jak tvrdě rozhodovat? Zde je více možností. Nejjednoduší je prosté rozhodování "přípustný / nepřípustný příspěvek" a ty druhé vůbec nezveřejňovat. Nebo nevhodné příspěvky ukazovat jen jejich autorovi, ale nikomu jinému (autor - "man yelling at clouds" - si potichu uleví a nenaštve se cenzurou, zároveň jeho nevhodný příspěvek nikdo neuvidí). Nebo mít i třetí, šedou zónu a ty "šedé" příspěvky zveřejňovat jen po rozkliknutí. Zde nemám vyhraněný názor, trochu se kloním k tomu "povoleno, šedá zóna, nevhodné" modelu - viz další bod.

  • jednou za čas by došlo k dotrénování, rekalibraci. Společnost se vyvíjí, společenská témata se mění, fenomény o kterých se diskutuje vznikají, je třeba na to reagovat. Opět by veřejnost stejně určovala na dalších tréninkových vstupech, co je vhodné a co ne. Jak vybírat tyto vstupy? Např. z oné "šedé zóny", pokud se v rozhodování použije. Např. by uživatelé mohli nahlašovat "prosím o přezkum" pro jednotlivé příspěvky, pokud jim přijde rozhodnutí AI neadekvátní - u povolených i "šedých" příspěvků. A příspěvky s nejvíce žádostmi o přezkum by byly použity jako vstup na dotrénování.

Možné námitky a rizika:

  • Vážně máme věřit AI, která je schopna nagenerovat člověka s šesti prsty na jedné ruce? Toto AI ještě fakt nezvládá. Ale LLMs, velké jazykové modely, ty už IMHO jsou hodně moc schopné. Z osobní zkušenosti jsem si hrál s "open source" Granite modelem od IBM, a mám z něj respekt OFFTOPICrozhodně netrvám na použití tohoto LLM. Na něm jen svou osobní zkušeností argumentuji schopnosti dnešních LLMs.. OFFTOPICVěnoval jsem se tomu jako součást své práce. V práci jsem znám přístupem "dejte mi program a dost času, a já vám v něm najdu chyby od jednoduchých po fatální, že z toho seniorní vývojáři budou brečet v koutě (citace od jednoho seniorního vývojáře, ne ode mne)". Tento můj kritický přístup ke Granite LLM našel jen pár drobností, nic jiného. Rozhodně nejsem expertem ani na AI, ani na lingvistiku či právo, jde o můj soukromý názor. Tento bod bych měl rád zkonzultovaný s někým fundovaným.

  • Bude to drahé. Validní argument. Natrénovat dobře AI může stát větší miliardy. Zkuste před takovým Stanjurou obhájit výdaj v řádu miliard, že. Na druhou stranu, zisk v podobě snad kultivované diskuze za to imho stojí. Ale nějaký odhad ceny by se hodil..

  • Bude to energeticky náročné. Opět platný argument, zvlášť v době drahých cen energií může být nemorální přijít s něčím, co by (s nadsázkou) spolklo produkci půlku Dukovan. OFFTOPICNa druhou stranu, než se toto pořádně rozjede, bude to aspoň pár let trvat, a mezitím (snad?) energetická krize bude pouze minulostí.

  • Nepůjde o cenzuru? Právěže to je na tom krásné - stát nebude rozhodovat o nevhodnosti příspěvku. O tom rozhodne společnost, prostřednictvím jí naučené AI. Stát bude maximálně tak vykonavatelem takových rozhodnutí (ale ani to nemusí být).

  • Nebudou i tak lidi nadávat na "státní cenzůru, Foltýn fůůůj"? I když lze vše nezávisle ověřit? Budou nadávat. Téma by bylo určitě nutné dobře vysvětlit. A celé použití mít založené na dobrovolnosti (soukromých firem se do něj zapojit), případně to celé přenechat nějaké nestátní instituci a mít stát jen jako certifikační autoritu s razítkem "tito používají veřejností natrénovaný AI model".

  • Nebude chybět zdůvodnění, proč došlo k zamítnutí příspěvku? Afaik AI mají ten nedostatek, že jejich rozhodnutí nelze zdůvodnit - celá jejich neuronová síť je totiž tím zdůvodněním. Z mé osobní a ryze subjektivní zkušenosti mi ale LLM dokázalo rozumně zodpovědět otázku "proč byl můj předchozí příspěvek v rozporu s morálkou?" (příklad odpovědi: "vyhorožoval jste násilím. Násilí je nevhodné, pokud nejde o jeden z protipříkladů: 1) ukázka z děje knihy, 2) ..")

  • Co riziko, že nás AI ovládne? Nu, "ovládne" maximálně tak veřejnou diskuzi - a to ještě jen na základě tréningu od lidí. Dále, jakákoliv platforma bude mít kdykoliv možnost toto ověřování vhodnosti příspěvků vypnout.

Předem děkuji za věcnou diskuzi. Chápu, že může jít o citlivé téma, respektuji právo na vyjádření názoru. Ale i tato svoboda projevu končí tam, kde například začíná svoboda Romů na bezpečný život ("cikány do plynu"). My jako společnost bychom si měli určit ty hranice svobod, a právě tato idea by toto definování hranic dokázala dobře zautomatizovat a naškálovat.

Bývalý správce @PiratiJMK i @PiratePartyCZ, bývalý člen KK, bývalý člen.

eladar
Návštěvník – nepatří k Pirátům
Příspěvky: 806
Registrován: 04 bře 2021, 11:42
Dal poděkování: 138 poděkování
Dostal poděkování: 244 poděkování

Re: Diskuze moderovaná veřejnou a transparentní AI

Příspěvek od eladar »

Pavel.Moravec píše: 08 zář 2024, 23:00

[*] Nepůjde o cenzuru? Právěže to je na tom krásné - stát nebude rozhodovat o nevhodnosti příspěvku. O tom rozhodne společnost, prostřednictvím jí naučené AI. Stát bude maximálně tak vykonavatelem takových rozhodnutí (ale ani to nemusí být).

Ve finále o cenzuru půjde. Neexistuje způsob, jak zajistit, aby byl ten model neutrální. V podstatě to bude svým způsobem Velký bratr, který bude dohlížet na to, co si má člověk myslet. A bez možnosti odvolání.

Dobrým příkladem je Wikipedie. Původní myšlenka je dobrá - komunita se postará o to, aby byly případné chyby odstraněny. V praxi je běžné, že skupinky aktivistů ohnou realitu popisovanou Wikipedií podle své ideologie.

Uživatelský avatar
Martin.Kucera
Člen KS Moravskoslezský kraj
Příspěvky: 19762
Registrován: 23 dub 2009, 16:41
Profese: nakladatel
Dal poděkování: 565 poděkování
Dostal poděkování: 12763 poděkování

Re: Diskuze moderovaná veřejnou a transparentní AI

Příspěvek od Martin.Kucera »

eladar píše: 08 zář 2024, 23:47

V podstatě to bude svým způsobem Velký bratr, který bude dohlížet na to, co si má člověk myslet.

Ne myslet. Ale psát do veřejné diskuse.

Já spíš vidím úskalí jinde. Např.

Pavel.Moravec píše: 08 zář 2024, 23:00

občané budou dobrovolně, pod svým jménem určovat, který příspěvek do slušné diskuze patří, a který ne

může vést k autocenzuře kvůli obavě, že pokud pod svým jménem veřejně podpořím nějaký kritický či kontroverzní názor, může to někdo proti mně zneužít (nějaký politik mocensky, nebo mě večer v parku někdo zmlátí, atd.)
Ostatně i proto taky jsou volby tajné, že...

Tito uživatelé poděkovali autorovi Martin.Kucera za příspěvky (celkem 2):
eladar, Petr.Tkadlec

Jak jednoduchý by byl svět, kdybychom četli a dělali věci hned správně. :) -- Lucie Spáčilová

Uživatelský avatar
Pavel.Moravec
Návštěvník – nepatří k Pirátům
Příspěvky: 2768
Registrován: 27 dub 2011, 17:25
Profese: IT
Bydliště: Brno Bystrc
Dal poděkování: 4262 poděkování
Dostal poděkování: 2666 poděkování

Re: Diskuze moderovaná veřejnou a transparentní AI

Příspěvek od Pavel.Moravec »

eladar píše: 08 zář 2024, 23:47

Ve finále o cenzuru půjde. Neexistuje způsob, jak zajistit, aby byl ten model neutrální.

Co si představujete pod pojmem "neutrální"? Jako průměr názorů lidí? Toho dosáhnete právě tím, že právě lidé na začátku natrénují model, každý člověk dle svých preferencí.

V podstatě to bude svým způsobem Velký bratr

Falešná analogie. Velký bratr hlídal vše, zde bude hlídat jen diskuzi kde mu to dovolíme.

který bude dohlížet na to, co si má člověk myslet.

Ne, jen co je slušné psát. Ne co si myslet. Naprosto scestný argument.

A bez možnosti odvolání.

Opět nepravda. Viz možnost rekalibrace. Viz možnost soukromých subjektů se do této moderace nezapojit.

Dobrým příkladem je Wikipedie. Původní myšlenka je dobrá - komunita se postará o to, aby byly případné chyby odstraněny. V praxi je běžné, že skupinky aktivistů ohnou realitu popisovanou Wikipedií podle své ideologie.

Falešnou analogií je Wikipedie. Tam může jedinec změnit stránku sám. Zde jedině, když de facto všichni uživatelé vyjádří společnou vůli, že něco je nevhodné.

Martin.Kucera píše: 09 zář 2024, 07:13

Já spíš vidím úskalí jinde. Např.

Pavel.Moravec píše: 08 zář 2024, 23:00

občané budou dobrovolně, pod svým jménem určovat, který příspěvek do slušné diskuze patří, a který ne

může vést k autocenzuře kvůli obavě, že pokud pod svým jménem veřejně podpořím nějaký kritický či kontroverzní názor, může to někdo proti mně zneužít (nějaký politik mocensky, nebo mě večer v parku někdo zmlátí, atd.)
Ostatně i proto taky jsou volby tajné, že...

Jenže zde lidé nevystupují v roli voliče, ale přímo v roli aktivního politika, co určuje pravidla hry. Chápu takové obavě, byť si myslím, že by se týkala fakt jen pár procent trénování. Zároveň si myslím, že anonymita by vedla k příliš velké polarizaci vstupních dat, k horšímu natrénování. Co tak možnost, že by třeba až třetinu voleb mohl občan skrýt? Netrvám na té veřejnosti, jen si myslím, že by celkově byla ku prospěchu.

Bývalý správce @PiratiJMK i @PiratePartyCZ, bývalý člen KK, bývalý člen.

anon123
Návštěvník – nepatří k Pirátům
Příspěvky: 403
Registrován: 17 lis 2021, 14:49
Dal poděkování: 296 poděkování
Dostal poděkování: 157 poděkování

Re: Diskuze moderovaná veřejnou a transparentní AI

Příspěvek od anon123 »

Pavel.Moravec píše: 09 zář 2024, 08:52
eladar píše: 08 zář 2024, 23:47

Ve finále o cenzuru půjde. Neexistuje způsob, jak zajistit, aby byl ten model neutrální.

Co si představujete pod pojmem "neutrální"? Jako průměr názorů lidí? Toho dosáhnete právě tím, že právě lidé na začátku natrénují model, každý člověk dle svých preferencí.

V podstatě to bude svým způsobem Velký bratr

Falešná analogie. Velký bratr hlídal vše, zde bude hlídat jen diskuzi kde mu to dovolíme.

který bude dohlížet na to, co si má člověk myslet.

Ne, jen co je slušné psát. Ne co si myslet. Naprosto scestný argument.

A bez možnosti odvolání.

Opět nepravda. Viz možnost rekalibrace. Viz možnost soukromých subjektů se do této moderace nezapojit.

Dobrým příkladem je Wikipedie. Původní myšlenka je dobrá - komunita se postará o to, aby byly případné chyby odstraněny. V praxi je běžné, že skupinky aktivistů ohnou realitu popisovanou Wikipedií podle své ideologie.

Falešnou analogií je Wikipedie. Tam může jedinec změnit stránku sám. Zde jedině, když de facto všichni uživatelé vyjádří společnou vůli, že něco je nevhodné.

Martin.Kucera píše: 09 zář 2024, 07:13

Já spíš vidím úskalí jinde. Např.

Pavel.Moravec píše: 08 zář 2024, 23:00

občané budou dobrovolně, pod svým jménem určovat, který příspěvek do slušné diskuze patří, a který ne

může vést k autocenzuře kvůli obavě, že pokud pod svým jménem veřejně podpořím nějaký kritický či kontroverzní názor, může to někdo proti mně zneužít (nějaký politik mocensky, nebo mě večer v parku někdo zmlátí, atd.)
Ostatně i proto taky jsou volby tajné, že...

Jenže zde lidé nevystupují v roli voliče, ale přímo v roli aktivního politika, co určuje pravidla hry. Chápu takové obavě, byť si myslím, že by se týkala fakt jen pár procent trénování. Zároveň si myslím, že anonymita by vedla k příliš velké polarizaci vstupních dat, k horšímu natrénování. Co tak možnost, že by třeba až třetinu voleb mohl občan skrýt? Netrvám na té veřejnosti, jen si myslím, že by celkově byla ku prospěchu.

Nechtělo se mi nijak reagovat, ale zajímá mě, jak chcete docílit účasti všech uživatelů a nikoli pouze " nejuřvanější" skupiny aktivistů. Děkuji

Tito uživatelé poděkovali autorovi anon123 za příspěvek:
eladar
Uživatelský avatar
Pavel.Moravec
Návštěvník – nepatří k Pirátům
Příspěvky: 2768
Registrován: 27 dub 2011, 17:25
Profese: IT
Bydliště: Brno Bystrc
Dal poděkování: 4262 poděkování
Dostal poděkování: 2666 poděkování

Re: Diskuze moderovaná veřejnou a transparentní AI

Příspěvek od Pavel.Moravec »

pavlinahamplova píše: 09 zář 2024, 09:21

Nechtělo se mi nijak reagovat, ale zajímá mě, jak chcete docílit účasti všech uživatelů a nikoli pouze " nejuřvanější" skupiny aktivistů. Děkuji

Jak se ve volbách docílí účasti všech uživatelů a nikoliv pouze nejuřvanější skupiny / tvrdého jádra každé politické strany?

Já nikde nepsal, že musí trénovat všichni. Ať trénuje jen ten, kdo chce na těch pravidlech participovat. Stejně jako ať volí ve volbách jen ten, kdo chce participovat na politickém směřování země.

Ani u voleb není žádoucí, aby se jich zúčastnili všichni voliči, a podobně zde - klidně můžu zdůvodnit či najít odkaz proč to platí..

Bývalý správce @PiratiJMK i @PiratePartyCZ, bývalý člen KK, bývalý člen.

eladar
Návštěvník – nepatří k Pirátům
Příspěvky: 806
Registrován: 04 bře 2021, 11:42
Dal poděkování: 138 poděkování
Dostal poděkování: 244 poděkování

Re: Diskuze moderovaná veřejnou a transparentní AI

Příspěvek od eladar »

Byl bych nerad, aby to vyznělo, že jsem a priory proti využití AI. Jsem jen skeptický v tomto konkrétním případě.

Ve skutečnosti ta myšlenka není vůbec nová a existuje několik příkladů, kde se konkrétně využívá. A nejsou s tím právě nejlepší zkušenosti. Asi nejlepším příkladem je Facebook. Původní sympatický záměr udržet obsah v rozumných mezích se tak trochu zvrtnul a zašel daleko za hranice monitorování podle pravidel komunity. Teď nemám na mysli spíše legrační přešlapy, kdy byly zablokovány obrázky Davida od Michelangela Buonarroti, protože nahota porušuje pravidla komunity. Spíš jde o o to, že časem začal Facebook potlačovat určité názorové proudy a tím přispívá k vytváření vzájemně neslučitelných bublin. Pokud mluvím o cenzuře, pak mám na mysli především tento efekt.

Zkuste mi odpovědět na otázku, co by bylo pokládáno za nežádoucí chování ...
... používání sprostých slov? Jaké slovo bude pokládáno na sprosté? A jak zabráníte tomu, že se budou v těch slovech hvězdičkovat písmena, jako se to děje na FB? A jak se vypořádáte s tím, že existuje český film, který má sprosté slovo hned v názvu? Zakážeme ho? A zakážeme přistávat letadlům, pro které Češi vybrali krásná zvukomalební jména? Budeme přejmenovávat některé obce?

... nebo má AI filtrovat dezinformace? Narazíme na problém, kdo bude tou autoritou, která rozhodně, co je informace a co dezinformace. Ne nadarmo se říká, že rozdíl mezi informací a dezinformací je často jen několik měsíců. A možná by bylo záhodno připomenout i to, že byly doby, kdy všichni věděli, že Země je placatá a Slunce obíhá kolem ní, jen několik dezinformátorů tvrdilo, že je kulatá a právem skončili na hranici za šíření bludů.

... nebo má za úkol potlačit extrémní názory? To by mě docela zajímalo, jak by si poradila s výměnou názorů mezi qnx a Viletou. Oba dva zastávají svým způsobem extrémní postoje, jen na opačné straně. Kterého z nich zakážeme? Viletu nebo qnx a proč?

Zkuste vysvětlit, konkrétně proti jakým nešvarům by měla AI při moderování diskusí zasáhnout? To je možná otázka, která měla padnout hned na počátku. Úvodní myšlenka, tak jak byla předložena, zněla vznešeně, ale byla příliš obecná a vlastně nic neříkající.

Tito uživatelé poděkovali autorovi eladar za příspěvek:
anon123
anon123
Návštěvník – nepatří k Pirátům
Příspěvky: 403
Registrován: 17 lis 2021, 14:49
Dal poděkování: 296 poděkování
Dostal poděkování: 157 poděkování

Re: Diskuze moderovaná veřejnou a transparentní AI

Příspěvek od anon123 »

Pavel.Moravec píše: 09 zář 2024, 16:15
pavlinahamplova píše: 09 zář 2024, 09:21

Nechtělo se mi nijak reagovat, ale zajímá mě, jak chcete docílit účasti všech uživatelů a nikoli pouze " nejuřvanější" skupiny aktivistů. Děkuji

Jak se ve volbách docílí účasti všech uživatelů a nikoliv pouze nejuřvanější skupiny / tvrdého jádra každé politické strany?

Já nikde nepsal, že musí trénovat všichni. Ať trénuje jen ten, kdo chce na těch pravidlech participovat. Stejně jako ať volí ve volbách jen ten, kdo chce participovat na politickém směřování země.

Ani u voleb není žádoucí, aby se jich zúčastnili všichni voliči, a podobně zde - klidně můžu zdůvodnit či najít odkaz proč to platí..

Reagovala jsem na toto Vaše vyjádření:

" Falešnou analogií je Wikipedie. Tam může jedinec změnit stránku sám. Zde jedině, když de facto všichni uživatelé vyjádří společnou vůli, že něco je nevhodné"

Jak si to mám vyložit? Nechci předjímat, proto se ptám. Píšete o vytrénovaní AI skrz nějak vytvořenou veřejnou diskuzi. Takto vytrénovanou AI by, dle Vašich slov, mohl používat kdokoli ve svém prostoru diskuzí. Tou většinou uzivatelů máte na mysli ty, kteří se v rámci trénování AI do tohoto projektu prihlasí, poskytnou své údaje a budou rozhodovat o tom, který příspěvek je nevhodný? A výsledek této skupiny by poté mohl být implementován na další různé diskuzní bubliny?

Takže ti, co se nezapojí do trénování, potom nemohou nesouhlasit s výsledkem? Jejich chyba? Protože za bernou mincí se bude brát výsledek vzniknuvší z testovací skupiny?

V současné době jiz je částečně zautomatizovany proces regulace diskuzi, třeba na základě expresivních výrazů atd. atd.

Jaké konkrétní názory by měly být touto vytrénovanou AI považovány za nevhodné?

Přiznám se, že tyto nápady mě děsí, ale myslím si, že v budoucnu budou mít zelenou. Bohužel

Tito uživatelé poděkovali autorovi anon123 za příspěvek:
eladar
Uživatelský avatar
Pavel.Moravec
Návštěvník – nepatří k Pirátům
Příspěvky: 2768
Registrován: 27 dub 2011, 17:25
Profese: IT
Bydliště: Brno Bystrc
Dal poděkování: 4262 poděkování
Dostal poděkování: 2666 poděkování

Re: Diskuze moderovaná veřejnou a transparentní AI

Příspěvek od Pavel.Moravec »

Nemám sílu vysvětlovat to, co je již psáno v textu. Napsat "FB dělá moderaci pomocí AI, takže moderace AI je špatně" je argumentační faul unáhlené zobecnění, podobně řada dalších oponentur.

Ptáte se opakovaně, jaké věci by měly být moderovány, jestli sprostá slova ano nebo ne - a jak to mám vědět? To snad bude záležet na tom, co si uživatelé vyberou a jak tu AI natrénují. Pokud nějaké natrénované téma bude kontroverzní, zpětná vazba je zmíněna.

"Ti co nebudou trénovat, proč mají trpět pod nadvládou těch co trénovali?" - opět použiji svou analogii s volbami: ti co nevolí, ti taky trpí pod nadvládou voličů? Navíc, z voleb vzejdou politici co mění závazné zákony v celé zemi. Zde by se "zvolila" / natrénovala AI, co by bylo dobrovolné používat.

Hele kašlete na to. Zjevně jsem se se svým názorem spletl se stranou, zavřete vlákno a zapomeňte na to. Dík.

Bývalý správce @PiratiJMK i @PiratePartyCZ, bývalý člen KK, bývalý člen.

Uživatelský avatar
Vaclav.Bartos
Návštěvník – nepatří k Pirátům
Příspěvky: 225
Registrován: 22 úno 2021, 10:51
Profese: Václav Bartoš
Bydliště: Hradec Králové
Dal poděkování: 53 poděkování
Dostal poděkování: 220 poděkování

Re: Diskuze moderovaná veřejnou a transparentní AI

Příspěvek od Vaclav.Bartos »

O tomhle se povedou spory, až někdo přijde s voleným zástupcem z dílny AI. Ne jako nestranná autorita, což je samo o sobě u jazykového modelu nesmysl, protože to žádná inteligence není, ale jsou to jen pravděpodobnostní matematické vzorce. Ovšem nalité vašimi názory a dávající reakce se znalostí legislativy, politického programu, to už jako podklad pro nějaká rozhodnutí na úrovni zastupitelů/poslanců smysl dává. Včetně neomezeného času pro mediální výstupy včetně tvorby na sociální sítě.

Výhoda? Skoro nulové náklady oproti lidskému politikovi.

Odpovědět

Zpět na „Veřejná diskuse“