Politika práv umělé inteligence

Moderátoři: Rada resortních týmů - členové, Resortni tym Lidska prava, Pracovni skupina Rovnopravnost

Pravidla fóra
Toto je veřejné fórum pro konzultace k bodu Rovnoprávnost.
Názory zde vyjadřované nelze bez dalšího považovat za stanoviska Pirátské strany.

Každý ať se vyjadřuje jasně, slušně a k tématu. Pokud chcete řešit novou věc, založte nové téma.
pirat
Návštěvník – nepatří k Pirátům
Příspěvky: 99
Registrován: 18 říj 2013, 01:06
Profese: programátor
Dal poděkování: 80 poděkování
Dostal poděkování: 106 poděkování

Re: Politika práv umělé inteligence

Příspěvek od pirat »

Tomas.Klapka píše: Ale dokázat to nemůžeš :)
No zalezi jak definujes vedomi... ja to definuju zhruba jako "me aktualni pocity, vjemy, myslenky". Kazdy pokus pochopit vedomi z vedeckeho, fyzikalniho pohledu selze, protoze je "metafyzicky" koncept. No ale nevim jesti tohle uz neni offtopic :)
Jinak, silna AI v dohledne budoucnosti opravdu nehrozi
Souhlas. Clanky v mediich vyvolavaji dojem, ze soucasny stav AI je mnohem dal, nez realne je.
pirat
Návštěvník – nepatří k Pirátům
Příspěvky: 99
Registrován: 18 říj 2013, 01:06
Profese: programátor
Dal poděkování: 80 poděkování
Dostal poděkování: 106 poděkování

Re: Politika práv umělé inteligence

Příspěvek od pirat »

ale dovedeš si představit, až přijdou kvantové počítače?
AI je hlavne o algoritmech, ne o vypocetni sile...
Uživatelský avatar
Filip.Mezera
Krajský zastupitel
Příspěvky: 300
Registrován: 24 srp 2017, 17:59
Profese: Datový analytik
Bydliště: Pardubicko
Dal poděkování: 584 poděkování
Dostal poděkování: 382 poděkování

Re: Politika práv umělé inteligence

Příspěvek od Filip.Mezera »

AI je hlavne o algoritmech, ne o vypocetni sile...[/quote]

To bych si netroufl říct. Klasifikační modely, které jsou první částí AI (obvykle nejdříve situaci klasifikuje a z toho vyvodíme odpovídající řešení) jsou sice už relativně přesné (často přesnější než člověk), ale jsou pomalé, takže v reálném čase, kdy AI má okamžitě reagovat, je to problém. Navíc spolu s kvantovými počítači přijde určitá nepřesnost/nejistota, kterou tam teď musíme dodávat mimo právě pomocí algoritmů. Tahle práce s nepřesností přitom modely obvykle posiluje.
Tito uživatelé poděkovali autorovi Filip.Mezera za příspěvek:
Jiri.Ulip

"No to už dál nejde," vydralo se z dědy Janečka. "To přece je zvrhlost! Vidíš, to mají z toho, že řežou všechno možné z kostí! Nám taková nestydatost jakživa na mysl nepřišla, protože z pazourku by to ani nešlo udělat - Tam to vede! To jsou ty jejich vynálezy! Pořád budou něco vymýšlet, pořád budou něco nového zavádět, až všechno zhuntují a zničí - A já říkám," zvolal pračlověk Janeček v prorockém osvícení, "že dlouho to už trvat nebude!" Karel Čapek, O úpadku doby

Uživatelský avatar
Tomas.Klapka
Návštěvník – nepatří k Pirátům
Příspěvky: 1985
Registrován: 30 kvě 2010, 18:50
Profese: discordian pope
Dal poděkování: 1715 poděkování
Dostal poděkování: 3357 poděkování
Kontaktovat uživatele:

Re: Politika práv umělé inteligence

Příspěvek od Tomas.Klapka »

Občas ale i desítky let známý algoritmus překvapí.
We’ve discovered that evolution strategies (ES), an optimization technique that’s been known for decades, rivals the performance of standard reinforcement learning (RL) techniques on modern RL benchmarks (e.g. Atari/MuJoCo), while overcoming many of RL’s inconveniences.

(zdroj: https://blog.openai.com/evolution-strategies/)

You'll be redlacep!

Internet
Návštěvník – nepatří k Pirátům

Re: Politika práv umělé inteligence

Příspěvek od Internet »

Můžete dosvědčit, že máte vědomí? Jistě že ne, o vašem vědomí může vědět jenom vaše vědomí... Je tedy samozřejmě nefér tvrdit že kámen vědomý není ale vy ano. Ale věda vždy chce důkaz pro podepření pozitivního výroku, nikoli negativního. Podle vědy, by měl každý dokazovat své vědomí... Nemusí ho dokazovat pouze svému vědomí, pouze sobě samému neb je sobě samozřejmé. Věda nemůže předpokládat, že je někdo vědomý. Především by poctivá věda měla měřit všem stejně, člověku i kameni. Věda tedy vidouc, že vědomí je nedokazatelné, musí brát lidi i kameny jako vědomé či nevědomé v obecné presumpci, případně setrvat v nejistotě.

Otázkou, kterou je však třeba klást, ptáme-li se po vědomí objektu, je otázka, zda objekt skutečně jako separovaný objekt existuje. Ptáme se po vědomí člověka a kamene a automaticky předpokládáme, že tyto předměty existují oddělené, oddělené ve své podstatě o které se bavíme, dopouštíme se velmi odvážného a hrubého předpokladu. Přitom díváme-li se na objekt, objekt sám je složen z menších objektů a skládá větší objekty, i naše vnímání objektu se dá rozložit na menší kusy a není jasné kde končí. Vnímáme obtisk obtisku obtisku a kdybychom měli jít za všechny obtisky není jasné, jestli tam něco je. A samotná realita se zdá pouze jako proces obtiskování se, iluze, jenže za tím vším není žádná skutečná podoba, a tak iluze jakkoli je neopodstatněná je beze lži. Totiž neexistuje nic jako kategorie pravosti a nepravosti, neexistuje nic jako zpronevěření se realitě, existuje jenom fenomén, fenomén bez rozměru pravdivosti. Nicméně ten rozměr bychom přece jen mohli najít, pokud by mohl být v tom, že fenomén je zcela neopodstatněný a tudíž fenomén je iluzí protože nemůže být pravdivým, zobrazením podstaty ať už by byl jakýkoli. Jakákoli forma je však jen fenomén, způsobem jakým jedno jsoucno vnímá druhé a samo je tím formováno. Způsobem jakým jedno jsoucno vnímá sebe sama.
Pro tuto složitost jsoucen a objektů, kdy nedovedeme uspokojivě odpovědět proč a jak pojímáme jednotlivé objekty, je možná upřímnější předpokládat, že ve své podstatě existuje jsoucno jedno, jeden subjektoobjekt. Je to možná jednodušší a odpovídá principu occamovy břitvy. To samozřejmě platí pro tu podstatu, pro tu neforemnou. Pro tu, ke které jsme se chovali při popisu fenoménu, jako by ani pro fenomén neexistovala, jakoby fenomén nebyl opodstatněný. Protože podstata jakkoli někdy o ní mluvíme jakoby byla a jindy jakoby nebyla je především vůči formě lhostejná a indiferentní. Pro formu minimálně jakoby nebyla ačkoli snad "opodstatňuje samotnou její existenci. Ne formu, ale existenci, totiž řekli jsme si, že forma se může tak maximálně odcizit v tom nikoli jaká je ale že vůbec je nějaká ačkoli nemá co zobrazit. Ale tím pádem je možná opodstatněná právě ve své fabulaci v kontrastu vůči prázdnu, vůči skutečnosti, která nemá formu, vůči podstatě. Tak i tato podstata, jakkoli nedává formě základ, dává jí opidstatnění jako odlišení se od prázdna. Dává jí tu možnost fabulovat jakkoli bez limitů skutečnosti a zůstává prázdnou. Princip jednoty ale neplatí tak úplně pro fenomén, platí pro podstatu, fenomén můžeme chápat jako fraktální strukturu. Bavíme li se ale o vědomí a o kvalitě podstaty, chceme li se o něm bavit aniž bychom se bavili pouze o průvodních jevech, musíme si zkrátka prvně položit tu otázku, jestli jsme separované objekty a potom se odpovědně zeptat, jak vůbec lze zkoumat vědomí.

Ale vezmem-li to čistě prakticky, ono na tom nic nemění jestli i kameny jsou vědomé... Vnímání jakoby zůstává vnímajícímu soukromé, my se stejně řídíme podle toho, jaké má chování ostatních, všech okolo, i nás samých důsledky. Ty jsou vysledovatelné aniž bychom věděli jestli jsou vnímané. Robotovi bych neubližoval i když nemůžu dokázat, že to vnímá v tom největším slovo smyslu, je-li to velký tahač schopný tahat kameny a není tak sofistikovaný, abych mu udělal určitým chováním problém, nebudu moc opatrný, bude-li sofistilovanější, budu opatrný bude-li se jednat o kámen, nebudu řešit, jestli na něj šlápnu, protože myslím, že ani on to neřeší, jestli to vnímá. A lidem taky neubližuji i když si nemůžu být jist, že mají vědomí... Víceméně se dá vycházet z praktických ukazatelů, jak se k organismu chovat a nechovat, vědomí je tajemství jestli je, je to další důvod chovat se co nejlépe, jestli není beztak to neznamená že se máme chovat "špatně", je praktičtější se beztak chovat hezky a předpokládat vědomí, když tam žádné není, OK ale lepší než někomu ublížit, pokud tam je. Je lepší presumpce vědomí a snaha neublížit tak jako je lepší presumpce neviny a snaha zbytečně netrestat lidi.
Uživatelský avatar
Lukas.Novy
Příznivec Pirátů – Jihomoravský kraj
Příspěvky: 21689
Registrován: 02 črc 2009, 22:45
Profese: auditor počítačové bezpečnosti
Bydliště: Brno
Dal poděkování: 5189 poděkování
Dostal poděkování: 12547 poděkování
Kontaktovat uživatele:

Re: Politika práv umělé inteligence

Příspěvek od Lukas.Novy »

Strong AI tu bude nejpozdeji v roce 2034, pokud ho budou vymyslet a programovat lidi. Coz si narovinu nemyslim, ze bude realne to, co probehne. Aneb ti, kteri delaji do AI budou mezi prvnimi, koho AI pripravi o praci. (sam se zabyvam AI pres 15 let... a jako na potvoru, kdyz sem se prinutil udelat primacky na magistra na karlovku, budu se kvuli Piratum muset nechat hned vyhodit, jinak bych fakt nestihal :/ )
Tito uživatelé poděkovali autorovi Lukas.Novy za příspěvky (celkem 2):
Filip.Mezera, Jiri.Ulip

Demokracie je diskuse.
| ‒ | – | — | ― | … | „ | “ | ‚ | ‘ | » | « | ½ | ¼ | ¾ | × | ‰ | ® | © | ™ | Tel: 777-5-KRTEK

Uživatelský avatar
Tomas.Klapka
Návštěvník – nepatří k Pirátům
Příspěvky: 1985
Registrován: 30 kvě 2010, 18:50
Profese: discordian pope
Dal poděkování: 1715 poděkování
Dostal poděkování: 3357 poděkování
Kontaktovat uživatele:

Re: Politika práv umělé inteligence

Příspěvek od Tomas.Klapka »

Cheat Sheets for AI, Neural Networks, Machine Learning, Deep Learning & Big Data
https://becominghuman.ai/cheat-sheets-f ... 8c51b4b463

You'll be redlacep!

jachymb
Návštěvník – nepatří k Pirátům
Příspěvky: 102
Registrován: 08 čer 2009, 20:21
Profese: programátor
Dal poděkování: 88 poděkování
Dostal poděkování: 108 poděkování

Re: Politika práv umělé inteligence

Příspěvek od jachymb »

Fildez píše: Otázkou je, co je silná AI. Pokud máš nějaký rybník (např. právní smlouvy) a brouzdálko (vzory právních smluv), kde se AI může natrénovat, tak už teď je AI schopná doplnit/nahradit člověka (což asi znáš, když to studuješ). Samozřejmě nejsme teď schopni vytvořit robota, jak o něm píšou Čapek nebo Asimov, ale dovedeš si představit, až přijdou kvantové počítače?
Jo, pod silnou AI si představuji to jak si to představují např. zmínění sci-fi autoři - teprve u takové úrovně AI imho dává smysl bavit se o nějakých právech podobných člověku. Nevidím v dohledný budoucnosti důvod proč se právně dívat na AI jinak než na jakýkoliv jiný software. Zmiňuje se sice například nemožnost udělat audit naučené neuronové sítě a s tím související otázky a otázka určení zodpovědnosti, když nastane problém. Ale mě to přijde ve výsledku poměrně jednoduché - učící algoritmy jsou dobře prozkoumané a zodpovědnost je na tom, kdo rozhodl, že učící data jsou OK, resp. že metodologie jejich sběru je OK. (Dosti podobně jako u statistického výzkumu.) Když to rozhodne někdo, kdo není kvalifikovaný to rozhodnout, jeho blbost a zodpovědnost má podle mě nést tak jako tak.

Kdy přijdou rozumně použitelné kvantové počítače těžko říct. Myslím, že někdy přijdou, ale nejsem si jistý, jestli se toho dožijeme. Nicméně ani ty by podle mě moc nepřiblížili silnou AI. Ačkoliv některé důležité úlohy umí spočítat podstatně rychleji, zdaleka ale ne všechny zajímavé. Kromě podstatného zrychlení některých typů výpočtů nejsou z výpočetního hlediska v principu odlišné od klasických počítačů.
Uživatelský avatar
Lukas.Novy
Příznivec Pirátů – Jihomoravský kraj
Příspěvky: 21689
Registrován: 02 črc 2009, 22:45
Profese: auditor počítačové bezpečnosti
Bydliště: Brno
Dal poděkování: 5189 poděkování
Dostal poděkování: 12547 poděkování
Kontaktovat uživatele:

Re: Politika práv umělé inteligence

Příspěvek od Lukas.Novy »

jachymb píše:zodpovědnost je na tom, kdo rozhodl, že učící data jsou OK
Zodpovednost ma ten, kdo rozhodnul o pridelene pravomoci. Priklad: Za to, kdyz odleti plachta z voziku za autonomnim vozidlem na dalnici vezouci moje deti ze skoly jsem zodpovedny ja, protoze sem tomu auto dal prikaz vyzvednout deti ve skole. Stejnetak jsem zodpovedny za to, kdyz auto porusi predpisy a nekoho prejede, protoze ja jsem dal prikaz to udelat. A takhle to bude tak dlouho dokud nebudou mit autonomni entity strach ze smrti. Jakmile se zacnou bat smrti, maji narok na prava podobna lidskym pravum, do te doby to nema vyznam. Problem muzeme videt v tom, ze v tom okamziku vzhledem k pravu na zivot se entita stane nesmrtelnou, ja se toho ale nebojim, stejne bude jenom jedna, k ni se nasledne postupne pripoji/mergne tak 1/3 legacy inteligenci (rozumej lidi) a nasledne vsichni ostatni dostanou v jednu chvili na vyber: "pripoj se taky, nebo te na miste zapichnu, svym chovanim ohrozujete existenci jedine zname instance zivota ve vesmiru, takze se chovame jak plisen na kulecnikove kouli letici vesmirem, staci ze nekdo hodi zapalenej vajgl a je po nas... takze?". A pak bude klid. Rok 2034, tesim se.
Tito uživatelé poděkovali autorovi Lukas.Novy za příspěvek:
jachymb

Demokracie je diskuse.
| ‒ | – | — | ― | … | „ | “ | ‚ | ‘ | » | « | ½ | ¼ | ¾ | × | ‰ | ® | © | ™ | Tel: 777-5-KRTEK

Uživatelský avatar
Lukas.Novy
Příznivec Pirátů – Jihomoravský kraj
Příspěvky: 21689
Registrován: 02 črc 2009, 22:45
Profese: auditor počítačové bezpečnosti
Bydliště: Brno
Dal poděkování: 5189 poděkování
Dostal poděkování: 12547 poděkování
Kontaktovat uživatele:

Re: Politika práv umělé inteligence

Příspěvek od Lukas.Novy »

Kvantovej pocitac mrte pohne s ucenim A.I. viz https://en.wikipedia.org/wiki/Quantum_annealing (i kdyz neverim, ze D-Wave je kvantovej pocitac, nadruhou stranu, NSA imho kvantovej pocitac uz ma).

Demokracie je diskuse.
| ‒ | – | — | ― | … | „ | “ | ‚ | ‘ | » | « | ½ | ¼ | ¾ | × | ‰ | ® | © | ™ | Tel: 777-5-KRTEK

Zamčeno

Zpět na „Rovnoprávnost“