Keskeiset käsitteet tekstissä:

Kehote: Prompt.
Kehotesuunnittelu (tai kehotetekniikka/kehotemuokkaus): Promt Engineering
LLM: Large Language Model

Moduulin jälkeen osaat kehittää tehokkaita kehotteita tekoälylle.

Tekstissä käytetään näitä termejä vaihtelevissa konteksteissa.
Voit kirjoittaa suomeksi, vaikka esimerkeissä käytämme alla englantia. Kuitenkin jos aiheesi on hyvin spesifi, saattaa olla parempi kirjoittaa promptit englanniksi. Voit myös testata antaako ChatGPT paremman vastauksen englanniksi vai suomeksi!

Koneoppiminen on tekoälyn osa-alue, joka mahdollistaa tietokonealgoritmien oppimisen datan perusteella ja sen jälkeen päätösten tai ennusteiden tekemisen tulevasta datasta ilman ohjelmoijien eksplisiittisiä ohjeita.

Ilman koneoppimisen apua ohjelmoijien täytyy antaa tietokoneelle kaikki säännöt ja tavoitteet, jotka ovat tarpeen datan käsittelyä varten. Kuten voit kuvitella, tämä voi olla erittäin aikaa vievä ja tehottoma prosessi. AI-mallien integroiminen voi yksinkertaistaa datan käsittelyä automatisoimalla toistuvia tehtäviä ratkaisten monia näistä ongelmista valonnopeudella.

Koneoppiminen eroaa myös perinteisestä ohjelmoinnista siinä, että se käyttää dataa tuottaakseen ennakoivia malleja ja sitten hyödyntää näitä malleja tehdäkseen ennusteita. Tämä on erityisen hyödyllistä kehitettäessä sääntöpohjaisia ohjelmia, kunhan tarpeeksi dataa ongelman ratkaisemiseksi on saatavilla.

Esimerkiksi sääennusteet perustuvat numeeriseen ja tilastolliseen tietoon menneistä sääolosuhteista rakentaakseen malleja, jotka ennustavat tulevaa säätä. Samoin koneoppiminen käyttää algoritmeja luodakseen ja kouluttaakseen malleja, jotka tekevät ennusteita ympäröivästä maailmasta saatavilla olevasta datasta. Ajan myötä tietokonejärjestelmä kehittyy itsestään tunnistamalla poikkeavat datapisteet ja sivuuttamalla ne tulevissa ennusteissa. Malli integroi tämän tiedon, mikä johtaa parempiin ennusteisiin tai päätöksiin tulevaisuudessa. Parasta on, että ohjelmoijien ei tarvitse kertoa tietokoneelle, miten parantua; se voi opettaa itse itseään datan perusteella.

Koneoppimismalleja on kolme pääkategoriaa: ohjattu, ohjaamaton ja vahvistusoppiminen. Ohjatussa oppimisessa käytetään ennusteiden tekemiseen algoritmia, joka on koulutettu merkityllä datasetillä, jossa tiedetään jo oikeat tulosteet jokaiselle syötteelle, ja sitten koulutetun mallin avulla ennustetaan uusien, näkemättömien syötteiden tulokset. Ohjaamattomassa oppimisessa käytetään algoritmia, joka analysoi ei-luokiteltua tai merkittyä dataa ja tunnistaa trendejä, suhteita ja muita kuvioita datassa. Vahvistusoppiminen eroaa siinä, että tekoäly oppii käytännössä kokeilemalla ja virheiden kautta.

Kuten aiemmin mainittiin, tekoäly pyrkii tarjoamaan ratkaisuja ongelmiin, jotka vaativat ihmisen älykkyyttä, kun taas koneoppiminen ratkaisee ongelmia oppimalla datasta ja tekemällä ennusteita. Toisin sanoen tekoäly mahdollistaa tietokonealgoritmien suorittamisen samankaltaisesti kuin ihminen, kun taas koneoppiminen mahdollistaa algoritmin luoda oman älykkyytensä.

Tämä saavutetaan käyttämällä neuroverkkoja: joukko algoritmeja, jotka on mallinnettu ihmisaivojen perusteella ja joita voidaan käyttää kouluttamaan tietokoneita jäljittelemään ihmisen päättelyä. Nämä neuroverkot palvelevat samankaltaista tarkoitusta kuin aivojesi neuroneissa, jotka välittävät ja vastaanottavat signaaleja. Samalla tavalla käyttäen neuroverkkoja, koneoppimisohjelmisto vastaanottaa dataa ja luo algoritmeja, jotka kehittyvät ja parantavat suorituskykyä ajan myötä. Tämä menetelmä on koneoppimisen osa-alue, jota kutsutaan syväoppimiseksi.

Syväoppimismalleilla on kyky käsitellä monimutkaisia, rakenteettomia, meluisia datasettejä, kuten tekstiä ja ihmisen puhetta. Yksi syväoppimismallien huomattavista sovelluksista on luonnollisen kielen käsittely (NLP) -alalla.

Ihmisten käyttämät kielet, joilla he vuorovaikuttavat ja kommunikoivat keskenään, tunnetaan luonnollisina kieliinä verrattuna niihin kommunikointiprotokolliin ja ohjelmointikieliin, joita tietokoneet "ymmärtävät" luonnostaan. Sen sijaan tietokoneet tallentavat tiedot nollina ja ykkösinä, jotka tunnetaan binäärinä. Ne pystyvät tulkitsemaan näitä tietoja ohjeina siitä, miten näyttää tekstiä, ääntä, kuvia tai videoita. Jos olet koskaan katsellut binäärikoodia, tiedät varmaan, että se on mahdotonta ymmärtää ihmisenä tällaisessa muodossa. Koska ihmiset ja koneet puhuvat näitä erilaisia "kieliä", olemme kehittäneet tapoja kommunikoida koneiden kanssa ja päinvastoin, yhteisellä kielellä.

Tämän saavuttamiseksi meidän on yhdistettävä erilaisia tekoälyn teknologioita ja koneoppimisalgoritmeja mahdollistaaksemme tietokoneiden ymmärtää kirjoitettua tekstiä ja puhuttuja sanoja samalla tavalla kuin ihmiset.

Luonnollisen kielen käsittely (NLP) yhdistää ihmisen kielitieteen säännöt koneoppimisalgoritmeihin—erityisesti syväoppimismalleihin—ei pelkästään kääntämään tekstiä muotoon, jota tietokone ymmärtää, vaan periaatteessa ymmärtämään sanat niiden merkityksen takana, mukaan lukien kirjoittajan tai puhujan aikeet ja tunnetila. NLP pystyy tulkitsemaan epäselviä lauseita, tunnistamaan yksilön asenteen ja tunteen, määrittämään sanaluokat ja muuttamaan puhutun kielen tekstidataksi. Sosiaalisen median syötteet, sähköpostit, verkkoforumit ja blogit ovat kaikki rakenteettomia, tekstipohjaisia ​​tietoja. NLP:n tehtävänä on tarkastella tätä dataa ja tulkitsemaan merkitys siitä.

NLP:n tavoitteena on saada tietokoneet ymmärtämään ei pelkästään sanojen määritelmiä (kuten tietokannan tyyppinen tehtävä) vaan tulkitsemaan niiden merkitys kontekstissa, läpi näennäisesti loputtomien kontekstien mahdollisuuksien, samalla tavalla kuin ihminen kykenisi. Se voi kuulostaa tarpeeksi yksinkertaiselta tehtävältä. Mutta todellisuudessa on monia monimutkaisia tekijöitä, jotka vaikuttavat tietokoneen "ymmärtämiseen" kieltä.

Esimerkiksi englannin kieltä taitavat pystyvät erottamaan homonyymit englannin luonnollisessa kielessä. He tietäisivät, että puun kuori ja koiran haukunta tarkoittavat eri asioita, vaikka ne kuulostavat samalta. He ymmärtäisivät myös, että sanonta "barking up the wrong tree" ei liity millään tavalla puihin tai koiriin. Tämä on vain yksi esimerkki monimutkaisesta joukosta haasteita, joita NLP:n kanssa on.

NLP perustuu transformer-malleihin, joista käsittelemme yksityiskohtaisemmin myöhemmässä osiossa. Lyhyesti sanottuna "transformer-malli on neuroverkko, joka oppii kontekstista ja siten merkityksestä seuraamalla suhteita sekvenssillisiin tietoihin, kuten tämän lauseen sanoihin" (Merrit, 2022).

Periaatteessa teksti tai puhutut sanat syötetään algoritmiin, joka erottaa datan ja pilkkoo jokaisen elementin yksittäisiksi sanoiksi tai lauseiksi prosessin nimeltä tokenisointi. Seuraavaksi algoritmi luokittelee ja merkitsee jokaisen elementin ja käyttää tilastollista koulutusta ehdottaakseen datan todennäköisintä merkitystä.

NLP-algoritmit ovat yhä suositumpia osittain valmiiksi koulutettujen mallien saatavuuden vuoksi, jotka auttavat vähentämään laskennallisia kustannuksia ja mahdollistavat kehittyneiden mallien käytön. Niitä käytetään usein roskapostin erottamiseen oikeutetuista sähköposteista, kääntämiseen yhdestä kielestä toiseen, sosiaalisen median tunneanalyysiin sekä chatbotteihin ja virtuaaliagentteihin.

Kuten voi odottaa, NLP:n tutkimus liittyy läheisesti kielitieteeseen. Niin paljon, että aiemmat NLP-mallit käyttivät sääntöpohjaista lähestymistapaa, käyttäen syntaksia ja kieliopillisia sääntöjä ymmärtääkseen tekstin rakenteen. Sen jälkeen mallit käyttivät logiikkaa erottamaan tekstin merkityksen. Kuten voit kuvitella, tämän lähestymistavan sääntöjen luominen ei ollut pieni tehtävä, ja tällaisilla malleilla oli rajoitettu tehokkuus niiden tiettyjen käyttötapauksien ulkopuolella.

Sinun tarvitsee vain katsoa mitä tahansa sosiaalista syötettä, ryhmäviestiketjua tai verkkoforumia, johon olet osa, ymmärtääksesi miksi: kun ihmiset kommunikoivat, he joskus luovat omat sääntönsä, keksien sanastoa ja lyhenteitä kuten LOL, BRB tai IDK. Ihmiset joskus ovat tietämättömiä säännöistä, tehden tahattomia kieliopillisia virheitä ja luoden epäselviä lauseita kuten ”Sarah tapasi Mai:n kahville lähellä sitä paikkaa, missä hän työskentelee.” Joskus ihmiset luopuvat kokonaan oikeinkirjoitus- ja kielioppisäännöistä, kommunikoiden yksinkertaisella ”c u l8r :)” -viestillä. Ihmiset pystyvät kommunikoimaan kieliopillisten, syntaktisten ja leksikaalisten sääntöjen rajojen ulkopuolella ja silti välittämään merkityksen toisille ihmisille. Jotta NLP:tä voitaisiin luottavaisesti käyttää tekemään samaa, tarvittiin kehittämään uusi lähestymistapa NLP-malleihin: tilastollinen lähestymistapa.

Tilastollisessa lähestymistavassa NLP-mallit oppivat sääntöjä, joilla on niihin liittyvä todennäköisyys, käyttäen koneoppimis- ja syväoppimismalleja. Koneoppimis- ja syväoppimismallit mahdollistavat NLP-mallien merkitsemisen rakenteettomiin tekstidatajoukkoihin. Sen jälkeen jokaiselle mahdolliselle merkitykselle jokaisessa datasetissä olevassa elementissä annetaan todennäköisyys.

Arguoidaan, että käännekohta NLP-mallien kehityksessä on huomion esittely, joka mahdollistaa mallin kehittää sisäisen kuvauksen siitä, miten jokainen sana liittyy seuraavaan. Tämä tilastollinen edustus tekstistä on se, mikä ohjaa mallin päättelyjä myöhemmin. Kun työskentelet tämän kurssin läpi, pidä mielessäsi, että kun puhumme siitä, mitä malli ”ymmärtää”, ”oppii” tai ”tietää”, se ei tarkoita samaa kuin kun käytämme näitä verbejä viitattaessa ihmisiin. Sen sijaan puhumme mallin sisäisestä tietorakenteesta, joka dokumentoi, miten sanat datasetissä liittyvät toisiinsa ja kielisääntöihin tehdäkseen kohtuullisen hyvän tilastollisen arvauksen siitä, mikä sana, lause tai virke tulisi seuraavaksi.

Transformereita ovat tehokkaat tekoälymallit, jotka pystyvät prosessoimaan valtavia määriä dataa, oppimaan siitä ja tekemään tarkkoja ennusteita tai luomaan sisältöä. Ne saavuttavat tämän käyttämällä itsehuomiota painottaakseen eri osien tärkeyttä kysymyksessä tai lauseessa tietyssä kontekstissa simuloidakseen ymmärtämistä ja saavuttaakseen ihmismäisen luonnollisen prosessoinnin.

Yksi merkittävä sovellus transformereista on generatiivinen tekoäly, missä ne käyttävät algoritmista tekniikkaa tulkkiakseen luonnollisessa kielessä annettuja ohjeita tuottaakseen uutta dataa eri muodoissa—kuten tekstiä, kuvia, musiikkia tai koodia—yhdistelemällä dataansa ainutlaatuisilla ja uusilla tavoilla. Myöhemmin tässä kurssissa tulet vuorovaikuttamaan ChatGPT:n kanssa, joka on generatiivinen tekoälymalli. Kielimalli on tilastollinen malli, joka on koulutettu tekstidatasta. NLP-mallit ovat syväoppimismalleja, mikä tarkoittaa sitä, että ne kootaan, koulutetaan ja sitten käytetään ennustamiseen tai päättelyyn. Kun puhumme siitä, mitä malli "oppii" kieli-malleista puhuttaessa, viittaamme lauseiden, sanojen tai merkkien välisiin kuvioihin ja suhteisiin kielessä. Koulutuksen aikana malli kehittää sisäisen edustuksen näistä kuvioista ja suhteista, joita se käyttää ennustaakseen sanojen tai merkkijonon todennäköisyyttä.

Nykyään yleisimmin käytetyt kielimallit ovat suuria kielimalleja (LLM). LLM:t ovat tekoälymalleja, jotka on koulutettu valtavalla tekstitietojen korpusta (tai kokoelmalla) suurella määrällä parametreja. Koulutusdatan koko ja siihen sisältyvien parametrien määrä tekevät näistä kielimalleista suuria.

Parametrit ovat muuttujia, joita mallit päivittävät oppiessaan parantaakseen tarkkuuttaan. Mallit oppivat parametreja mistä tahansa aiemmasta datasta, jota malli on koulutettu käsittelemään, ja päivittävät niitä mennessään. Tämä on yksi asia, joka tekee LLM:istä niin voimakkaita, sillä näyttö viittaa siihen, että suurempi parametrimäärä mahdollistaa monimutkaisempien ongelmien ratkaisemisen.

Toinen LLM:ien voimakas ominaisuus on transformeerirakenne, josta nämä mallit koostuvat. Tulevissa oppitunneissa perehdytään sanan- ja lauseenjakajiin, ja kokeillaan, miten mallit, jotka on koulutettu pienemmällä datamäärällä ja parametriryhmällä, suoriutuvat verrattuna suurempiin koulutussetteihin, joilla on enemmän parametreja.

Valmiiksi koulutetun mallin käytön hyöty on siinä, että kaikki laskennallinen resurssien työ on tehty puolestasi. Kuten mainittiin, kun koulutamme mallia, tarvitsemme paljon dataa, johon voi sisältyä koko Wikipedia ja Reddit -korpukset, BookCorpus ja laaja valikoima muita korpusten tyyppejä riippuen siitä, millaista mallia haluat rakentaa. Dataa koulutetaan monien päivien, viikkojen tai kuukausien ajan käyttäen paljon laskentaresursseja, kuten NVIDIAn grafiikkaprosessoreita (GPU) tai Googlen Tensor Processing Units (TPU). Kun data on koulutettu, sinulla on malli, jolla on erittäin hyvä ymmärrys siitä datasta, jolle olet sen kouluttanut.

HUOM.

Huomaa, että vastauksessa voi olla vinouma, kun käytät LLM:ää, koska koulutusdata heijastaa yhteiskunnassa olevia vinoumia, joita data on kerätty.

Tässä kurssissa käytämme ChatGPT:tä, Open AI:n generatiivista esikoulutettua transformeria (GPT) olevaa suurta kielimalliperhettä. GPT:n kehitys, alkaen 117 miljoonasta parametrista ja 4,5 GM:n koulutusdatasta GPT-1:lle ja kasvaen 175 miljardiin parametriin ja 570 GM:n tekstitietoihin GPT-3:lle, osoittaa nopean kehityksen kasvavan tekoälytyökalujen potentiaalin suhteen.

On tärkeää pitää mielessä, että termi Tekoäly on ympäröity väärinkäsityksillä, erityisesti mediassa. Siksi onkin hyvä toistaa, mitä generatiivinen tekoäly todella on ja mitä se tekee. Nykyinen tekoäly, kuten ChatGPT, on kaukana niistä Artifikaalisen yleisälykkyyden (AGI) kuvauksista, joita on popularisoitu spekulatiivisissa tieteiskirjoissa. Mediassa esitetyt tekoälyhahmot kuvataan usein tietoisina olemuksina monimutkaisine sisäisine elämineen ja joskus käsittämättömine motiiveineen. Nämä kuvaukset painottavat enemmän tekoälyn älykkyyden puolta.

Oikeassa maailmassa meillä on käytössämme tekoälyä, kuten ChatGPT ja Stable Diffusion, jotka ovat keinotekoisia siinä mielessä, että ne simuloi tai antavat älykkyyden vaikutelman. Muista tämä, kun keskustelemme siitä, miten tekstigeneraattorit kuten ChatGPT toimivat.

ChatGPT:n nykyinen tarkoitus on vuorovaikuttaa käyttäjien kanssa keskustelullisesti luottaen käyttäjän antamiin ohjeisiin tuottaakseen luonnollisen ja ihmismäisen näköistä tekstiä (OpenAI, 2022). Se nojaa laajaan tekstikantaan yhdistääkseen ohjeiden termit tiettyihin vastauksiin ja tietojoukkoihin rakentaakseen sopivan vastauksen käyttäjän ohjeisiin. Esimerkiksi GPT-4-malli on tarpeeksi monimutkainen ehdottaakseen "oikeaa verovähennystä saatuaan valtavan määrän verokoodia" ja se osoittaa "ihmismäistä suorituskykyä" monessa muussa tehtävässä käyttäen vahvistusoppimista (Chan, 2023).

Käytämme ChatGPT:tä tässä kurssissa, koska se on yksi helposti saatavilla olevista tekoälytekniikoista, joka on laajasti saatavilla yleisölle juuri nyt. Vaikka muita samankaltaisia työkaluja on saatavilla, ChatGPT lisää ylimääräisen kerroksen vahvistusoppimista, mikä tekee sen vastauksista tuntuvan paljon "ihmismäisemmiltä", paremman sanan puutteessa, kuin muut teknologiat.

Chan, K. 2023. What can ChatGPT maker’s new AI model GPT-4 do? AP News. 15 March. Available: https://apnews.com/article/chatgpt-gpt4-artificial-intelligence-chatbots-307e867e3fe4464be9c4f884909f3977 [2023, March 15].

Lee, A. 2023. What Are Large Language Models Used For? [Blog, 26 January]. Available: https://blogs.nvidia.com/blog/2023/01/26/what-are-large-language-models-used-for/ [2023, May 3].

Merritt, R. 2022. What Is a Transformer Model? [Blog, 25 March]. Available: https://blogs.nvidia.com/blog/2022/03/25/what-is-a-transformer-model/ [2023, May 3].

Ramponi, M. 2022. How ChatGPT actually works [Blog, 23 December]. Available: https://www.assemblyai.com/blog/how-chatgpt-actually-works/ [2023, May 3].

Rizkallah, J. 2017. The Big (Unstructured) Data Problem. Forbes. 5 June. Available: https://www.forbes.com/sites/forbestechcouncil/2017/06/05/the-big-unstructured-data-problem/?sh=5e2c825493a3 [2023, May 3].



Mikä on Promt?

Käyttäjät vuorovaikuttavat LLM:ien (Large Language Model) kanssa käyttämällä luonnollista kieltä syöttämällä ohjeita mallille tekstipohjaiseen käyttöliittymään. Termi "ohje" viittaa tekstiin, jonka käyttäjä syöttää tekstikenttään. Toisin sanoen ohje on teksti, jonka käyttäjä antaa tekoälyalgoritmille kertoakseen sille mitä tehdä.

Malli ottaa ohjeet ohjeesta, suorittaa tehtävän ja antaa sitten vastauksen käyttäjälle. Mallin vastausta kutsutaan usein "tulosteeksi".

Tässä kurssissa keskitymme tekstipohjaisiin tulosteisiin, mutta erilaiset generatiiviset tekoälymallit voivat tuottaa erilaisia tulosteita. Esimerkiksi kuvageneraattorit kuten Stable Diffusion ja Midjourney tuottavat kuvatiedostoja tulosteina.

Ohje voi olla yksinkertainen ja suoraviivainen kysymys, kuten "Kuka oli Yhdysvaltain ensimmäinen presidentti?" Tai se voi olla epämääräinen pyyntö mallille generoida tietyn tyyppistä tekstiä, kuten "Kirjoita haiuku AI:n kauneudesta."

Ohjeet voivat myös olla monimutkaisia, sisältäen tärkeitä tietoja ja ohjeita ohjatakseen mallia kohti tulosta, joka on käyttäjälle hyödyllisin. Muista, että LLM:t generoivat vastauksia erittäin suuren tietomäärän perusteella. Mallin käyttämä tarkka data tulosteen muodostamiseksi vaikuttaa merkittävästi niihin tiettyihin sanoihin, jotka käyttäjä syöttää ohjeeseen.

Kehotesuunnittelu - Prompt Engineering

Prompt-engineering on uusi ja kehittyvä ala, jossa järjestelmällisesti suunnitellaan syötteet generatiivisen tekoälyn mallille tuottaakseen käyttäjille tulosteen, joka parhaiten vastaa heidän tarpeitaan.

Jotta voitaisiin tuottaa paras mahdollinen tulos generatiivisesta tekoälyn mallista, on hyödyllistä ymmärtää näiden mallien mahdollisuudet ja rajoitukset. Tämä tieto auttaa sinua muotoilemaan ohjeesi siten, että malli voi parhaiten vastata tarpeisiisi.

Tässä muutamia avainasioita, jotka on hyvä pitää mielessä kehittäessäsi ohjeitasi:

Jopa hyvin pienet muutokset siinä, miten käyttäjä muotoilee ohjeen, voivat johtaa merkittäviin muutoksiin siinä, millaista tulostetta tekoälyn malli tuottaa. Siksi on tärkeää ottaa järjestelmällinen lähestymistapa kehitettäessä ohjeita.

Lähestyttäessä prompt-engineeringia muista, että tekoälyn mallit on koulutettu ennustamaan seuraava sana tai "token". Periaatteessa nämä mallit täydentävät tekstiä. Mitä tarkemman syötteen annat, sitä tarkemman ja hyödyllisemmän tuloksen voit odottaa saavasi.

Tekoälyn mallin vastaus on stokastinen, mikä tarkoittaa satunnaisesti määriteltyä. Koska malli käyttää suuria määriä dataa, saat erilaisen tulosteen jopa syöttäessäsi täsmälleen saman ohjeen.

Ole valppaana tekoälyn harhojen suhteen, eli ilmiön, jossa tekoälyn malli tuottaa sisältöä, joka "tuntuu" oikealta tulosteelta, mutta perustuu epäluotettavaan tietoon. Jälleen, koska malli käyttää erittäin suurta määrää dataa, kaikki tämä data ei välttämättä ole faktuaalisesti oikein. Hyvin suunniteltu ohje voi vähentää riskiä tekoälyn harhojen syntymiselle.

Joskus korkea taso alan asiantuntemusta saattaa olla tarpeen hyvin suunnitellun ohjeen kehittämiseksi. Otetaan esimerkiksi tilanne, jossa lääkäri käyttää tekoälyalgoritmia ehdottamaan hoitovaihtoehtoja potilaan sairaushistorian perusteella. Ohjeen suunnittelija tarvitsisi paitsi tietää parhaan sanaston tulosteen generoimiseksi, myös ymmärtää hoitovaihtoehdot voidakseen arvioida ja validoida tulosteen.

Kehotesuunnittelun osatekijät/komponentit

Ohjeiden laatimisen osatekijät

Kun kehität ohjetta, käyttäjien on sisällytettävä ainakin yksi seuraavista:

• Ohjeet
• Kysymys

Ohjeiden tai kysymyksen lisäksi käyttäjät haluavat todennäköisesti sisällyttää jonkin näiden kahden valinnaisen osatekijän ohjeeseensa ohjatakseen algoritmia kohti tulostetta, joka on hyödyllisin:

• Syötedata
• Esimerkit

Käyttäjät voivat antaa syötedataa antaakseen mallille lisätietoja haluamastaan tulosteesta. Mahdollisuudet sille, millaista dataa voidaan tarjota, ovat loputtomat ja riippuvat halutusta tulosteesta.

Käyttäjät voivat lisätä mitä tahansa yksinkertaisesta yleisökohderyhmätiedosta (ikä, koulutustaso, fyysinen sijainti) monimutkaisiin .csv-tiedostoihin, joissa on paljon datapisteitä, tai kaikkea siltä väliltä, mikä auttaa ohjaamaan mallia halutun tulosteen suuntaan.

On myös hyödyllistä määrittää sävy, jota haluat algoritmin käyttävän vastauksessaan.


Kuva yllä: Kuvakaappaus siitä, miten chatGPT vastaa ohjeeseen, joka pyytää isävitsiä.

Tässä tapauksessa emme pyytäneet mallia kertomaan meille vitsiä pingviineistä, vaan määritimme sävyn - isävitsin. Algoritmi tuotti seuraavan vitsin vastauksena: "Miksi pingviinit eivät pidä juttelemisesta vieraiden kanssa juhlissa? Koska heillä on vaikea rikkoa jäätä."

Esimerkit auttavat keskittämään datan, jota malli käyttää tulosteessaan, ja ne ovat erityisen hyödyllisiä ohjatessaan mallia tarjoamaan suosituksia.

Oletetaan, että etsit jotain katsottavaa tänä iltana ja tiedät olevasi tunnelmissa elokuvalle, jossa on tappajahai. Sen sijaan, että pyytäisit algoritmia ehdottamaan haita käsittelevää elokuvaa, voit parantaa mallin mahdollisuuksia ehdottaa elokuvaa, josta nautit, antamalla algoritmille hieman tietoa mieltymyksistäsi.

Ohjeessasi voit kertoa algoritmille pitäväsi elokuvista Jaws, The Shallows ja Open Water, mutta et pidä Sharknado-elokuvista tai The Megistä. Tämä tieto tekee todennäköisemmäksi, että saat tulosteen, joka vastaa tarkkaan makusi mukaisia haita käsitteleviä elokuvia.


Kuva yllä: Kuvakaappaus siitä, miten ChatGPT suosittelee haita käsittelevää elokuvaa käyttäjälle, ottaen huomioon käyttäjän pitämät ja ei-pidä elokuvista.

Algoritmin tuottama suositus on: "Perustuen mieltymyksiisi, suosittelisin elokuvaa 'The Reef' (2010). Se on jännittävä australialainen elokuva, joka seuraa joukkoa ystäviä, jotka joutuvat keskelle valtamerta, kun heidän purjeveneensä kaatuu. He yrittävät päästä turvaan, mutta heitä jahtaava suuri valkohai ei päästä heitä helpolla.

Selvästi algoritmi on käyttänyt esimerkkejä ohjatakseen suositustaan. Se jopa avaa suositellun elokuvan ominaisuuksia, jotka ovat yhteisiä niiden elokuvien kanssa, joista käyttäjä pitää, todeten: "Jännitys kasvaa tasaisesti koko elokuvan ajan, ja hai on realistisesti kuvattu, mikä tekee siitä loistavan valinnan Jawsin ja muiden vakavampien haita käsittelevien elokuvien faneille."

Esimerkkien antaminen ohjeiden jälkeen näyttää olevan tehokkaampaa kuin ennen niitä. Esimerkkien järjestyksen muuttaminen vaikuttaa myös tulosteeseen, joten saatat haluta kokeilla erilaista sanamuotoa, kunnes löydät optimaalisen tuloksen.

Kun lisäät nämä valinnaiset osatekijät ohjeeseen, annat algoritmille lisätietoja, jotka personoivat vastausta, sen sijaan että luottaisit koko laajan koulutusdatan kirjoon.

Nyt kun sinulla on parempi käsitys siitä, mitä kehotesuunnittelu on, tutustumme seuraavaksi tiettyihin "erityisiin" tekniikoihin joita voit käyttää promptiesi paranteluun.

Zero-shot, One-shot ja Few-shot

Zero-shot, One-shot ja Few-shot ohjeistaminen ovat käsitteitä, jotka liittyvät siihen, kuinka paljon tietoa käyttäjä antaa generatiiviselle tekoälymallille ohjeistamisen yhteydessä.

Zero-shot (Nolla laukausta):
Nollan laukauksen ohjeistaminen tarkoittaa sitä, että käyttäjä antaa mallille ohjeet ilman mitään lisätietoja tai esimerkkejä. Malli yrittää silti tuottaa järkevän vastauksen tai tulosteen pelkästään annettujen ohjeiden perusteella.

Esimerkki: Käyttäjä antaa ohjeen "Kerro minulle merestä", ilman lisätietoja tai esimerkkejä. Malli yrittää tuottaa sopivan vastauksen pelkästään tällä ohjeella.

One-shot (Yksi laukaus):
Yhden laukauksen ohjeistaminen tarkoittaa sitä, että käyttäjä antaa mallille yhden esimerkin tai lisätiedon vastauksen luomiseksi. Malli käyttää tätä yhtä esimerkkiä ymmärtääkseen, mitä käyttäjä haluaa.

Esimerkki: Käyttäjä antaa ohjeen "Kerro minulle hauska vitsi pingviineistä". Malli käyttää tätä yhtä esimerkkiä tuottaakseen sopivan vastauksen.

Few-shot (Muutama laukaus):
Muutaman laukauksen ohjeistaminen tarkoittaa sitä, että käyttäjä antaa mallille useita esimerkkejä tai lisätietoja vastauksen luomiseksi, mutta ei tarpeeksi, että voitaisiin puhua laajamittaisesta kattamisesta.

Kuten mainittiin, käyttäjän antamien esimerkkien määrä ja syötedatan yksityiskohdat voivat vaikuttaa merkittävästi tulokseen. Ohjeistuksen suunnittelijat käyttävät tarkkoja termejä kuvaamaan annettujen datapisteiden määrää.

Nollan laukauksen ohjeistaminen viittaa tekniikkaan, jossa mallille ei anneta lisädatapistettä sen ennusteen tekemiseksi. Esimerkkinä hain elokuvasta se voisi olla jotain tällaista: "Suosittele elokuvaa, jossa on tappajahai..."

Nollan laukauksen ohjeistaminen on hyödyllistä, kun haetaan laajaa tulostetta. Yllä oleva tulos on todiste siitä. Algoritmin antama tuloste oli: "Yksi klassinen elokuva tappajahain aiheesta, jonka suosittelisin, on 'Jaws' (1975), ohjannut Steven Spielberg. Perustuen Peter Benchleyn romaaniin, 'Jaws' kertoo tarinan pienen New Englandin kaupungin terrorisoimasta suurhaimaasta, joka alkaa hyökätä uimareiden kimppuun paikallisissa vesissä. Elokuva tähdittää Roy Scheideria, Robert Shaw'ta ja Richard Dreyfussia, ja siinä on John Williamsin sävellys, josta on tullut yksi elokuvahistorian tunnetuimmista. 'Jaws' on jännittävä ja kiehtova elokuva, joka on muodostunut kulttuuri-ilmiöksi ja kauhugenren klassikoksi." Lisäkysymysten ja vastausten avulla voit ohjata mallia kohti tarkempaa tulostetta, jos niin haluat. Nollan laukauksen ohjeistaminen voi myös olla loistava työkalu, kun haetaan luovaa ja omaperäistä tulostetta mallista.

Yhden laukauksen ohjeistaminen, kuten arvasitkin, tarkoittaa käytäntöä, jossa annetaan algoritmille yksi esimerkki tai datapiste. Hain elokuvaesimerkissämme yhden laukauksen ohje olisi jotain tällaista: "Suosittele elokuvaa tappajahaimaista. Jaws on suosikkini elokuva."

Yhden laukauksen ohjaaminen voi olla hyödyllistä, kun haluat supistaa tulostetta, mutta haluat silti antaa algoritmille tilaa keksiä mahdollisesti ennalta arvaamattomia tuloksia. Sitä käytetään selvästi parhaiten tilanteissa, joissa käyttäjällä voi olla vain rajallinen määrä tietoja. Vastauksena yhden laukauksen ohjeeseemme hain elokuvasta algoritmi antoi seuraavan suosituksen: "Jos pidit Jawsista, niin suosittelisin kovasti elokuvaa 'The Shallows' (2016). Elokuva seuraa nuorta surffaajaa nimeltä Nancy (Blake Lively), joka löytää itsensä jumittuneena pienelle kalliomuodostelmalle 200 metrin päässä rannasta samalla kun suurhain metsästää häntä. Samalla tavalla kuin Jaws, elokuva rakentaa jännitystä ja jännitettä, kun Nancy yrittää keksiä tavan pettää hain ja päästä takaisin rantaan hengissä. Kuvauksellisesti elokuva on upea, merestä otetut kauniit kuvat ja kamerakulmien käyttö tekevät hain vaikuttavammaksi. Kokonaisuutena 'The Shallows' on jännittävä ja intensiivinen elokuva, joka pitää sinut jännityksessä alusta loppuun."

Ei varmasti yllätä, että muutaman laukauksen ohjaaminen tarkoittaa sitä, että käyttäjä antaa useamman kuin yhden esimerkin tai datapisteen—yleensä kahden ja viiden välillä. Tämä tekniikka mahdollistaa käyttäjille, joilla on useita datapisteitä, keskittyä malliin ja ohjata sitä löytämään tarkempia tuloksia. Tässä on muistutus alkuperäisestä hain elokuvan ohjeestamme, joka on esimerkki muutaman laukauksen ohjaamisesta: "Suosittele elokuvaa tappajahaimaista. Pidän Jawsista, The Shallowsista ja Open Waterista. En pidä Sharknado-elokuvista tai The Megistä."



Ajatusketjun ohjaaminen "Chain of Thought"

"Chain of Thought" -ohjaus tarkoittaa tekniikkaa, jossa käyttäjä antaa peräkkäisiä ohjeita tai esimerkkejä algoritmille, joka käyttää niitä rakentaakseen uutta tietoa tai jatkaakseen keskustelua.

"Ajatusketjun ohjaaminen" tunnetaan myös nimellä CoT. Se on menetelmä, jota käytetään ohjaamaan mallia antamaan tosiasiallisesti oikeita vastauksia pakottamalla se vastaamaan sarjaan vaiheita prosessin aikana vastausvasteen kehittämisessä. Tekniikka vaatii käyttäjää pyytämään mallia noudattamaan "askel askeleelta" -prosessia ohjeissaan. Lisäksi on yleensä parasta käytäntöä pyytää mallia selittämään päättelynsä tulosteessa ja noudattamaan tiettyä muotoa. Tässä on vertailu tuloksista standardin ja CoT-ohjauksen välillä:

Kuva: Wei et al., 2022

CoT on erittäin hyödyllinen tekniikka, kun haetaan tosiasiallisesti oikeaa tietoa, koska se antaa käyttäjälle käsityksen siitä, miten algoritmi saavutti halutun tulosteen, mahdollistaen käyttäjän validoida algoritmin vastauksen. CoT vähentää myös merkittävästi mallin harhautumisriskiä. Muista, että "harhautuminen" on ilmiö, jossa tekoälymalli tuottaa sisältöä, joka "tuntuu" aidolta tulosteelta, mutta se ei perustu aitoihin tietoihin. Se on yksi suurimmista riskeistä käyttää transformer-malleja tällä hetkellä.

Tämä lähestymistapa mahdollistaa monimutkaisten kysymysten tai aiheiden vaiheittaisen käsittelyn, mikä auttaa algoritmia ymmärtämään käyttäjän tarpeet paremmin ja tuottamaan entistä tarkempia ja yksilöllisempiä vastauksia.

Esimerkki "Chain of Thought" -ohjauksesta voisi olla seuraava:

Käyttäjä: "Suosittele minulle elokuvaa, joka on samantyylinen kuin Jaws."

Algoritmi vastaa: "Kuinka samanlaista elokuvaa haluat? Voisitko antaa lisää esimerkkejä?"

Käyttäjä: "Pidän myös elokuvista, joissa on merihai."

Algoritmi vastaa: "Ymmärrän. Ehdotan elokuvaa 'The Meg' (2018). Siinä sukeltajat kohtaavat valtavan esihistoriallisen hain Mariana-haikannan syvyyksissä."

Käyttäjä: "Kiitos suosituksesta. Mikä tekee elokuvasta 'The Meg' erityisen mielenkiintoisen?"

Tämä tapahtumaketju esittelee "Chain of Thought" -ohjauksen periaatteen, jossa jokainen vaihe syventää keskustelua ja auttaa algoritmia tuottamaan yhä parempia vastauksia käyttäjän alkuperäiseen pyyntöön perustuen.

Lähdeviitteiden pyytäminen (Promptin Citations)

Lähdeviitteiden käyttöön pakottaminen on tehokas tapa vähentää harhautumisriskiä. Käyttäjä voi pyynnössä joko pyytää mallia käyttämään tiettyjä lähteitä tai ottamaan yleisemmän lähestymistavan, kuten pyytämällä sitä "käyttämään vain luotettavia lähteitä".

Samoin kuin CoT:n tapauksessa, mallilta lähteiden pyytäminen vastauksessaan tarjoaa kaksi etua: se ohjaa mallia kohti tarkempaa vastausta ja tarjoaa myös sinulle keinon varmistaa mallin vastaus.

Esimerkki luotettavien lähteiden käyttämiseen pakottamisesta on: "Kuka keksi Python-ohjelmointikielen? Vastaa käyttämällä vain luotettavia lähteitä ja viittaa niihin."

Tämä ohjeistus tuottaa neljä kappaletta, jotka selittävät, että Python-ohjelmointikielen loi hollantilainen ohjelmoija Guido van Rossum 1980-luvun lopulla. Tulosteessa on kolme luotettavaa lähdettä, mukaan lukien virallinen Python-verkkosivusto.

Mallin pyytäminen ottamaan tietty rooli on myös tehokas tapa parantaa tulostusta ja vähentää harhautumisen riskiä. Harkitse tätä esimerkkiä: "Olet avulias avustaja, joka kääntää englantia espanjaksi. Käännä seuraava teksti: All the world’s a stage, and all the men and women merely players."



Sana "avulias" ohjaa mallia kohti tosiasiallista vastausta, mikä vähentää hallusinoinnin riskiä. Se myös antaa jonkin verran kontekstia siitä, millaisella sävyllä käyttäjä haluaa mallin tuottavan tulosteen. Vastauksena algoritmi tuottaa seuraavan tulosteen: "Todo el mundo es un escenario y todos los hombres y mujeres son simplemente actores."

Kysymykset ja vastaukset

Mallia ohjataan kohti tulostetta useiden jatkuvien kysymysten avulla, mikä on toinen tehokas tapa ohjata mallia haluttuun tulosteeseen. Tämä tekniikka mahdollistaa käyttäjän reagoinnin, mikäli malli alkaa harhautua.

Usko tai älä, jotkut transformer-mallit vastaavat hyvin voimakkaaseen kieleen, mukaan lukien kaikki isot alkukirjaimet ja huutomerkki, kuten alla olevassa esimerkissä:

Tässä esimerkissä käyttäjä pyytää mallia kirjoittamaan lauseen käyttäen 10 sanaa. Tulosteena annettu lause "The quick brown fox jumps over the lazy dog." on vain 9 sanan pituinen. Käyttäjä vastaa: "SIINÄ ON VAIN 9 SANAA!" isoin kirjaimin. Malli pyytää anteeksi ja vastaa toisella lauseella, jossa on 10 sanaa: "She woke up early to watch the sunrise over mountains."

Lähteet:

Kristian. 2022. ChatGPT Prompt Engineering Tips: Zero, One and Few Shot Prompting [Blog, 14 December]. Available: https://www.allabtai.com/prompt-engineering-tips-zero-one-and-few-shot-prompting/ [2023, May 3].

Wei, J., Wang, X., Schuurmans, D., Bosma, M., Ichter, B. Xia, F., Chi, E.H., Le, Q.V., et al. 2022. Chain-of-Thought Prompting Elicits Reasoning in Large Language Models. Proceedings of the 36th Conference on Neural Information Processing Systems (NeurIPS 2022). 28 November-29 December. New Orleans Convention Center. Available: https://proceedings.neurips.cc/paper_files/paper/2022/hash/9d5609613524ecf4f15af0f7b31abca4-Abstract-Conference.html [2023, May 4].

Weng, L. 2023. Prompt Engineering [Blog,15 March]. Available: https://lilianweng.github.io/posts/2023-03-15-prompt-engineering/ [2023, May 3].