Avaleht - Tilde annab välja TildeOpen, Euroopa LLM-i Euroopa keelte jaoks
Tilde annab välja TildeOpen, Euroopa LLM-i Euroopa keelte jaoks
Tilde on välja andnud TildeOpen LLM, Euroopa avatud lähtekoodiga LLM (suur keelemudel) – tehisintellektil põhinev lahendus, mis on spetsialiseerunud teksti loomisele Euroopa keeltes. Euroopa Komisjoni tellimusel Tilde poolt välja töötatud ainulaadne LLM on kõigile huvilistele vabalt kättesaadav. See võimaldab TildeOpen’i põhjal luua konkreetseteks ülesanneteks kohandatud spetsialiseeritud mudeleid, mis töötavad suurepäraselt Euroopa väikeriikide keeltes.
Turvaline Euroopa LLM, mis on loodud Euroopa keelte jaoks
See Euroopa LLM, mille on välja töötanud juhtivad Läti tehisintellekti spetsialistid, on nii väikeste keelte grammatikareeglitega täpsem kui ka turvalisem. Arendajad saavad mudelit majutada kohalikus serveris, olles seega kindlad, et kogu LLM-ile esitatud teave jääb kohapeale või turvalisse pilvesalvestusse. Populaarsed kommertslikud keelemudelid majutatakse tavaliselt USA-s või Aasias asuvates andmekeskustes ega vasta alati ELi andmekaitse- ja andmeprivaatsuspoliitika standarditele.
„Selliseid populaarseid äriotstarbelisi keelemudeleid nagu ChatGPT õpetatakse peamiselt ingliskeelsete andmetega. See tähendab, et selles keeles genereeritavad tulemused on kvaliteetsemad kui muude vähemlevinud keelte omad. See võib aga viia kohmaka lauseehituseni, kus sõnade järjekord ja grammatika on vigased, või isegi valesti kasutatavate ning valesti tõlgitud oskussõnadeni. Neid vigu võib eriti hästi märgata siis, kui suurt keelemudelit kasutatakse keerukamate ja spetsiifilisemate ülesannete jaoks. Just seepärast kohandati TildeOpen-i Euroopa ja eriti Balti keeltele ning samuti ukraina ja türgi keelele, mis ei ole olemasolevates suurtes keelemudelites piisavalt hästi esindatud. Tilde on üks vähestest Euroopa ettevõtetest, mis on suutnud superarvutite ressursside kasutamise ja tehisaru valdkonna ainulaadsete eksperditeadmiste kaudu täiesti iseseisvalt sellise põhilise suure keelemudeli välja arendada,“ selgitas uue mudeli eeliseid Tilde juhataja Artūrs Vasiļevskis.
Ta rõhutas, et TildeOpen suudab suure keelemudeli oskuslikult läti keelele kohandada ning seetõttu peaks selle kasutamist kaaluma ka riigiasutused, omavalitsused, kohalikud ettevõtted ja haridusasutused. See oli ka Euroopa Komisjoni üks tingimusi, et ELis asuvad arendajad looks siseturul kasutatavaid tehisarutooteid ning hoiaks neid ELi andmekaitsedirektiive ja -standardeid järgivates Euroopa turvalistes ressurssides.

Euroopa superarvutid väikekeelte tehisaru treenimiseks
ELis on 24 ametlikku ja üle 60 piirkondlikku keelt, aga maailma populaarseimate suurte keelemudelite arendajad keskenduvad suurematele keeltele, jättes väiksemad unarusse. Euroopale selline lähenemine aga ei sobi, sest nn väikekeeli räägib üle 200 miljoni eurooplase ehk ligi pool kogu elanikkonnast. Tehisaru valdkonnas Euroopa üleilmse konkurentsivõime edendamiseks kuulutas EL välja konkursi Large AI Grand Challenge. 2024. aasta juunis kuulutati selle võitjaks Läti ettevõte Tilde, kes on üks Euroopa tehisaru keeletehnoloogia liidritest.
Võit andis võimaluse kasutada Euroopa kiireima superarvuti LUMIgraafikaprotsessori (GPU) kahte miljonit tundi. Need tunnid anti just TildeOpen väljatöötamiseks. Käesoleval aastal sai Tildest ka üks esimestest ettevõtetest, kellel võimaldatakse töötada hetkel Euroopa kiireima ja äsja käimapandud superarvutiga JUPITER. Nimetatud seadmete võimsusele tuginedes õnnestus TildeOpen esimene versioon välja töötada umbes ühe aasta jooksul.
Üle 30 miljardi parameetriga suurt suure keelemudelit õpetati eri allikatest pärit tohutu hulga üldteabega, luues niimoodi baasmudeli. Seda baasi on kasutajail võimalik spetsiifiliste ülesannete täitmiseks kohandada, luues näiteks mõnes Euroopa keeles hästi vestleva tehisaruassistendi.
TildeOpen on avatud lähtekoodiga lahendus ning see on riigiasutustele, ettevõtetele, teadlastele, tudengitele, raviasutustele ning finants- ja kindlustusvaldkonnale mudeli tööstusharu põhiseks kasutamiseks vabalt kättesaadav.
Mudelit saab turvaliselt majutada nii kohalikus serveris kui ka pilvesalvestuses ning see Euroopa LLM on kohandatud nendele Euroopa keeltele, mis on populaarseimates lahendustes sageli alaesindatud.
Tildeopen treeniti LUMI superarvutis AMD instinct ™ MI250X kiirendite abil. AMD riistvara kasutamine toetas Euroopa keelte 30 + miljardi parameetrimudeli väljatöötamiseks vajalikku ulatuslikku koolitust.
Platvormil on välja antud tildeopen LLM versioon 1 Hugging Face.



