AI-yhteenveto
Kyllä, tekoälyä voi "vetää nenästä" eli huijata tai johtaa harhaan hyvinkin helposti. Tekoäly, kuten ChatGPT tai kuvageneraattorit, ei ymmärrä maailmaa ihmisen tavoin, vaan se perustuu valtaviin datamassoihin ja todennäköisyyksiin. Yle
Tässä syitä ja tapoja, miten tekoälyä voi huijata:
Hallusinointi: Tekoäly voi keksiä faktoja, viitteitä tai uutisia, jos se ei tiedä vastausta, ja esittää ne erittäin vakuuttavasti. Jos syötät sille väärää tietoa, se voi ottaa sen totena ja rakentaa valheen sen ympärille.
Prompt-suunnittelu (ohjeistus): Tekoälylle voi antaa ristiriitaisia tai johdattelevia ohjeita ("prompt"), jotka saavat sen toimimaan halutulla, mutta väärällä tavalla.
Ei aitoa ymmärrystä: Koska tekoälyllä ei ole aitoa älyä, loogista päättelykykyä tai tietoisuutta, se ei ymmärrä kontekstia samalla tavalla kuin ihminen. Sille voi syöttää loogisesti mahdottomia skenaarioita, ja se yrittää silti vastata niihin.
Kuvien ja datan manipulointi: Tekoälylle voi antaa muokatun kuvan tai datan, jolloin se tulkitsee tilanteen väärin. Yle +2
Tekoäly ei siis ole erehtymätön, vaan pikemminkin "kielimalli", joka arvaa seuraavaa sanaa, mikä tekee siitä alttiin manipuloinnille. Yle
Kyllä, tekoälyä voi "vetää nenästä" eli huijata tai johtaa harhaan hyvinkin helposti. Tekoäly, kuten ChatGPT tai kuvageneraattorit, ei ymmärrä maailmaa ihmisen tavoin, vaan se perustuu valtaviin datamassoihin ja todennäköisyyksiin. Yle
Tässä syitä ja tapoja, miten tekoälyä voi huijata:
Hallusinointi: Tekoäly voi keksiä faktoja, viitteitä tai uutisia, jos se ei tiedä vastausta, ja esittää ne erittäin vakuuttavasti. Jos syötät sille väärää tietoa, se voi ottaa sen totena ja rakentaa valheen sen ympärille.
Prompt-suunnittelu (ohjeistus): Tekoälylle voi antaa ristiriitaisia tai johdattelevia ohjeita ("prompt"), jotka saavat sen toimimaan halutulla, mutta väärällä tavalla.
Ei aitoa ymmärrystä: Koska tekoälyllä ei ole aitoa älyä, loogista päättelykykyä tai tietoisuutta, se ei ymmärrä kontekstia samalla tavalla kuin ihminen. Sille voi syöttää loogisesti mahdottomia skenaarioita, ja se yrittää silti vastata niihin.
Kuvien ja datan manipulointi: Tekoälylle voi antaa muokatun kuvan tai datan, jolloin se tulkitsee tilanteen väärin. Yle +2
Tekoäly ei siis ole erehtymätön, vaan pikemminkin "kielimalli", joka arvaa seuraavaa sanaa, mikä tekee siitä alttiin manipuloinnille. Yle
Vastaukset 3
Vanhimmat
Tekoälylle voi syöttää kaikenlaista, kun se vain ei ole ristiriidassa aikaisemmin syötettyjen faktojen kanssa...
Nopeus on valttia!
Tekoälyä voi vetää nenästä vaikka kuinka pitkälle,
ja kun sen sitten päästää irti, kuuluu vain äänekäs LÄTS!
Se on mahdollista, jos tekoälyllä on kuminen nokka.