Sólin Sólin Rís 08:21 • sest 18:05 í Reykjavík
Tunglið Tunglið Rís 00:00 • Sest 00:00 í Reykjavík
Flóð Flóð Árdegis: 09:24 • Síðdegis: 21:44 í Reykjavík
Fjaran Fjara Árdegis: 03:01 • Síðdegis: 15:44 í Reykjavík
Sólin Sólin Rís 08:21 • sest 18:05 í Reykjavík
Tunglið Tunglið Rís 00:00 • Sest 00:00 í Reykjavík
Flóð Flóð Árdegis: 09:24 • Síðdegis: 21:44 í Reykjavík
Fjaran Fjara Árdegis: 03:01 • Síðdegis: 15:44 í Reykjavík
LeiðbeiningarTil baka

Sendu inn spurningu

Hér getur þú sent okkur nýjar spurningar um vísindaleg efni.

Hafðu spurninguna stutta og hnitmiðaða og sendu aðeins eina í einu. Einlægar og vandaðar spurningar um mikilvæg efni eru líklegastar til að kalla fram vönduð og greið svör. Ekki er víst að tími vinnist til að svara öllum spurningum.

Persónulegar upplýsingar um spyrjendur eru eingöngu notaðar í starfsemi vefsins, til dæmis til að svör verði við hæfi spyrjenda. Spurningum er ekki sinnt ef spyrjandi villir á sér heimildir eða segir ekki nægileg deili á sér.

Spurningum sem eru ekki á verksviði vefsins er eytt.

Að öðru leyti er hægt að spyrja Vísindavefinn um allt milli himins og jarðar!

=

Hverjir urðu fyrstir til að gera mállíkön opin almenningi og hvernig voru þau gerð að samtalslíkönum?

Hafsteinn Einarsson

Til að svara spurningunni þarf að skilgreina hvað átt er við með að gera mállíkan „opið“. Að geta sótt þjálfað líkan, notað það í gegnum þjónustu fyrirtækis og spjallað við það á einfaldri vefsíðu eru þrjár ólíkar aðgangsleiðir. Aðgengileg þjónusta felur ekki sjálfkrafa í sér að forritskóði, gögn eða líkanið sjálft séu opin.

Google var einn þeirra aðila sem gerðu þjálfuð líkön aðgengileg fyrir tíma ChatGPT, með BERT.[1] OpenAI birti stærstu útgáfu GPT-2, með 1,5 milljörðum stika, ásamt kóða og þjálfuðum stikum 5. nóvember 2019. Aðrir gátu því sótt líkanið og keyrt það sjálfir með viðeigandi búnaði og tækniþekkingu.[2]

GPT-3 varð síðar aðgengilegt gegnum forritaskil OpenAI, það er þjónustu sem önnur forrit gátu tengst. Hinn 18. nóvember 2021 felldi fyrirtækið niður biðlista, svo forritarar í löndum þar sem þjónustan var í boði gátu skráð sig og byrjað að prófa hana. Einnig var boðið upp á prófunarviðmót í vafra. Aðgangurinn var háður skilmálum þjónustunnar og fól ekki í sér að þjálfað GPT-3-líkan væri afhent notendum.[3]

OpenAI kynnti ChatGPT 30. nóvember 2022 sem ókeypis tilraunaþjónustu. Þar var mállíkan úr GPT-3.5-línunni þjálfað sérstaklega fyrir samtöl, meðal annars með sýnidæmum og mati fólks á svörum. Notandinn gat spurt á venjulegu máli, fengið svar og haldið samtalinu áfram. Samtalsformið gerði líkaninu jafnframt kleift að svara framhaldsspurningum, viðurkenna mistök, andmæla röngum forsendum og hafna óviðeigandi beiðnum.[4]

Gögnin fyrir þessa viðbótarþjálfun komu að miklu leyti frá launuðu fólki. Fyrir InstructGPT réð OpenAI um 40 verktaka gegnum vinnumiðlanirnar Upwork og Scale AI, flesta enskumælandi og búsetta í Bandaríkjunum eða Suðaustur-Asíu, til að skrifa fyrirmyndarsvör og raða svörum líkansins eftir gæðum.[5] Fyrir ChatGPT skrifuðu svokallaðir gervigreindarþjálfarar samtöl þar sem þeir léku bæði notanda og aðstoðarmann.[6] Hluti vinnunnar fór fram í Keníu. Samkvæmt rannsókn tímaritsins TIME frá janúar 2023 sendi OpenAI frá og með nóvember 2021 tugþúsundir textabúta til fyrirtækisins Sama í Naíróbí, þar sem starfsfólk merkti lýsingar á ofbeldi, hatursorðræðu og kynferðislegri misnotkun. Merkingarnar voru notaðar til að þjálfa síu sem átti að halda slíku efni frá svörum ChatGPT. Samningarnir voru að andvirði um 200 þúsund Bandaríkjadala og starfsfólkið fékk á bilinu 1,32 til 2 dali á tímann eftir reynslu og frammistöðu.[7] Þarna kom þannig saman fjölhæft mállíkan, umtalsverð mannleg vinna við viðbótarþjálfun og einföld leið til að nota afraksturinn.

ChatGPT var þannig áfangi í aðgengi að stórum mállíkönum, ekki upphaf þeirra. Þau höfðu áður verið þróuð til margra annarra verkefna en almennrar spjallaðstoðar, og bæði Google og OpenAI höfðu gert þjálfuð líkön eða þjónustu byggða á þeim aðgengileg. Hvaða útgáfa telst „fyrst“ fer eftir því hvort átt er við rannsóknarlíkan, niðurhal, forritaskil eða tilbúna neytendaþjónustu.

Tilvísanir:
  1. ^ Devlin, J., Chang, M.-W., Lee, K. og Toutanova, K. (2019; forprentun 2018). BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding. NAACL-HLT 2019, 4171–4186. https://doi.org/10.18653/v1/N19-1423
  2. ^ OpenAI (2019, 5. nóvember). GPT-2: 1.5B release. Útgáfutilkynning. https://openai.com/index/gpt-2-1-5b-release/
  3. ^ OpenAI (2021, 18. nóvember). OpenAI’s API now available with no waitlist. Þjónustutilkynning. https://openai.com/index/api-no-waitlist/
  4. ^ OpenAI (2022, 30. nóvember). Introducing ChatGPT. Kynning og aðferðalýsing. https://openai.com/is-IS/index/chatgpt/
  5. ^ Ouyang, L. o.fl. (2022). Training language models to follow instructions with human feedback. Advances in Neural Information Processing Systems, 35, 27730–27744. https://arxiv.org/abs/2203.02155
  6. ^ OpenAI (2022, 30. nóvember).
  7. ^ Perrigo, B. (2023, 18. janúar). Exclusive: OpenAI Used Kenyan Workers on Less Than $2 Per Hour to Make ChatGPT Less Toxic. TIME. https://time.com/6247678/openai-chatgpt-kenya-workers/

Mynd:

Upprunalega spurningin var í nokkrum liðum og hér er seinni hlutanum svarað:
Hvaðan kemur gervigreind? hvenær var fyrst reynt við hugmyndina, hvar, hvers vegna? Hverjir voru fyrstir til þess að gera hana opna almenningi, var það Chat eða voru aðrir að þjálfa hana til annarra nota en almennings "hjálpar"?

Höfundur

Hafsteinn Einarsson

dósent í tölvunarfræði við HÍ

Útgáfudagur

16.10.2026

Spyrjandi

Rebekka Rán

Tilvísun

Hafsteinn Einarsson. „Hverjir urðu fyrstir til að gera mállíkön opin almenningi og hvernig voru þau gerð að samtalslíkönum?“ Vísindavefurinn, 16. október 2026, sótt 16. október 2026, https://visindavefur.is/svar.php?id=89765.

Hafsteinn Einarsson. (2026, 16. október). Hverjir urðu fyrstir til að gera mállíkön opin almenningi og hvernig voru þau gerð að samtalslíkönum? Vísindavefurinn. https://visindavefur.is/svar.php?id=89765

Hafsteinn Einarsson. „Hverjir urðu fyrstir til að gera mállíkön opin almenningi og hvernig voru þau gerð að samtalslíkönum?“ Vísindavefurinn. 16. okt. 2026. Vefsíða. 16. okt. 2026. <https://visindavefur.is/svar.php?id=89765>.

Chicago | APA | MLA

Senda grein til vinar

=

Hverjir urðu fyrstir til að gera mállíkön opin almenningi og hvernig voru þau gerð að samtalslíkönum?
Til að svara spurningunni þarf að skilgreina hvað átt er við með að gera mállíkan „opið“. Að geta sótt þjálfað líkan, notað það í gegnum þjónustu fyrirtækis og spjallað við það á einfaldri vefsíðu eru þrjár ólíkar aðgangsleiðir. Aðgengileg þjónusta felur ekki sjálfkrafa í sér að forritskóði, gögn eða líkanið sjálft séu opin.

Google var einn þeirra aðila sem gerðu þjálfuð líkön aðgengileg fyrir tíma ChatGPT, með BERT.[1] OpenAI birti stærstu útgáfu GPT-2, með 1,5 milljörðum stika, ásamt kóða og þjálfuðum stikum 5. nóvember 2019. Aðrir gátu því sótt líkanið og keyrt það sjálfir með viðeigandi búnaði og tækniþekkingu.[2]

GPT-3 varð síðar aðgengilegt gegnum forritaskil OpenAI, það er þjónustu sem önnur forrit gátu tengst. Hinn 18. nóvember 2021 felldi fyrirtækið niður biðlista, svo forritarar í löndum þar sem þjónustan var í boði gátu skráð sig og byrjað að prófa hana. Einnig var boðið upp á prófunarviðmót í vafra. Aðgangurinn var háður skilmálum þjónustunnar og fól ekki í sér að þjálfað GPT-3-líkan væri afhent notendum.[3]

OpenAI kynnti ChatGPT 30. nóvember 2022 sem ókeypis tilraunaþjónustu. Þar var mállíkan úr GPT-3.5-línunni þjálfað sérstaklega fyrir samtöl, meðal annars með sýnidæmum og mati fólks á svörum. Notandinn gat spurt á venjulegu máli, fengið svar og haldið samtalinu áfram. Samtalsformið gerði líkaninu jafnframt kleift að svara framhaldsspurningum, viðurkenna mistök, andmæla röngum forsendum og hafna óviðeigandi beiðnum.[4]

Gögnin fyrir þessa viðbótarþjálfun komu að miklu leyti frá launuðu fólki. Fyrir InstructGPT réð OpenAI um 40 verktaka gegnum vinnumiðlanirnar Upwork og Scale AI, flesta enskumælandi og búsetta í Bandaríkjunum eða Suðaustur-Asíu, til að skrifa fyrirmyndarsvör og raða svörum líkansins eftir gæðum.[5] Fyrir ChatGPT skrifuðu svokallaðir gervigreindarþjálfarar samtöl þar sem þeir léku bæði notanda og aðstoðarmann.[6] Hluti vinnunnar fór fram í Keníu. Samkvæmt rannsókn tímaritsins TIME frá janúar 2023 sendi OpenAI frá og með nóvember 2021 tugþúsundir textabúta til fyrirtækisins Sama í Naíróbí, þar sem starfsfólk merkti lýsingar á ofbeldi, hatursorðræðu og kynferðislegri misnotkun. Merkingarnar voru notaðar til að þjálfa síu sem átti að halda slíku efni frá svörum ChatGPT. Samningarnir voru að andvirði um 200 þúsund Bandaríkjadala og starfsfólkið fékk á bilinu 1,32 til 2 dali á tímann eftir reynslu og frammistöðu.[7] Þarna kom þannig saman fjölhæft mállíkan, umtalsverð mannleg vinna við viðbótarþjálfun og einföld leið til að nota afraksturinn.

ChatGPT var þannig áfangi í aðgengi að stórum mállíkönum, ekki upphaf þeirra. Þau höfðu áður verið þróuð til margra annarra verkefna en almennrar spjallaðstoðar, og bæði Google og OpenAI höfðu gert þjálfuð líkön eða þjónustu byggða á þeim aðgengileg. Hvaða útgáfa telst „fyrst“ fer eftir því hvort átt er við rannsóknarlíkan, niðurhal, forritaskil eða tilbúna neytendaþjónustu.

Tilvísanir:
  1. ^ Devlin, J., Chang, M.-W., Lee, K. og Toutanova, K. (2019; forprentun 2018). BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding. NAACL-HLT 2019, 4171–4186. https://doi.org/10.18653/v1/N19-1423
  2. ^ OpenAI (2019, 5. nóvember). GPT-2: 1.5B release. Útgáfutilkynning. https://openai.com/index/gpt-2-1-5b-release/
  3. ^ OpenAI (2021, 18. nóvember). OpenAI’s API now available with no waitlist. Þjónustutilkynning. https://openai.com/index/api-no-waitlist/
  4. ^ OpenAI (2022, 30. nóvember). Introducing ChatGPT. Kynning og aðferðalýsing. https://openai.com/is-IS/index/chatgpt/
  5. ^ Ouyang, L. o.fl. (2022). Training language models to follow instructions with human feedback. Advances in Neural Information Processing Systems, 35, 27730–27744. https://arxiv.org/abs/2203.02155
  6. ^ OpenAI (2022, 30. nóvember).
  7. ^ Perrigo, B. (2023, 18. janúar). Exclusive: OpenAI Used Kenyan Workers on Less Than $2 Per Hour to Make ChatGPT Less Toxic. TIME. https://time.com/6247678/openai-chatgpt-kenya-workers/

Mynd:

Upprunalega spurningin var í nokkrum liðum og hér er seinni hlutanum svarað:
Hvaðan kemur gervigreind? hvenær var fyrst reynt við hugmyndina, hvar, hvers vegna? Hverjir voru fyrstir til þess að gera hana opna almenningi, var það Chat eða voru aðrir að þjálfa hana til annarra nota en almennings "hjálpar"?
...