Programming Parallel Computers

HY 2025–2026

LLM9a: CPU-optimointi ★★

Kirjaudu sisään palauttaaksesi tehtäviä.

Tehtävän ohjeet

Lue ensin tehtävän yleiset ohjeet. Tarkemmat tehtäväkohtaiset ohjeet ovat alla:

Toteuta suuren kielimallin kehotteen tehokas prosessointi käyttäen kaikkea CPU:lla saatavilla olevaa yksinkertaisen tarkkuuden laskentatehoa.

Koodin testaus

Koodin toimintaa testataan ensin erilaisilla testeillä. Voit kokeilla samaa omalla tietokoneellasi komennolla ./grading test.

Jos koodi toimii odotetusti, sille suoritetaan benchmark-testejä. Voit kokeilla tätä omalla tietokoneellasi komennolla ./grading benchmark. Huomaa kuitenkin, että ajoaika omalla tietokoneellasi voi olla eri kuin arviointiin käytetyllä laitteistolla.

Benchmark-testit

Nimi Parametrit
benchmarks/1 dim = 288, n_heads = 6, n_layers = 6, num_tokens = 127, vocab_size = 2048
käsitellään 127 tokenin jono 6-kerroksisella mallilla, jonka leveys on 288
benchmarks/2 dim = 512, n_heads = 8, n_layers = 8, num_tokens = 765, vocab_size = 2048
käsitellään 765 tokenin jono 8-kerroksisella mallilla, jonka leveys on 512
benchmarks/3 dim = 768, n_heads = 12, n_layers = 6, num_tokens = 510, vocab_size = 32000
käsitellään 510 tokenin jono 6-kerroksisella mallilla, jonka leveys on 768
benchmarks/4 dim = 288, n_heads = 6, n_layers = 6, num_tokens = 2047, vocab_size = 2048
käsitellään 2047 tokenin jono 6-kerroksisella mallilla, jonka leveys on 288
benchmarks/5 dim = 768, n_heads = 12, n_layers = 12, num_tokens = 513, vocab_size = 32000
käsitellään 513 tokenin jono 12-kerroksisella mallilla, jonka leveys on 768

Arviointi

Tässä tehtävässä palautus arvioidaan benchmarks/5-testin perusteella, jossa käsitellään 513 tokenin jono 12-kerroksisella mallilla, jonka leveys on 768.

Jos tehtävä palautetaan maanantaihin, 31. elokuuta 2026, klo 23:59:59 (Helsinki) mennessä, se pisteytetään alla olevan taulukon mukaisesti:

AjoaikaPisteet
≤ 8.000 s 1
≤ 6.000 s 2
≤ 4.000 s 3
≤ 2.000 s 4
≤ 1.000 s 5

Myöhästyneistä palautuksista ei saa pisteitä.

Kilpailu

Tehtävään tekemäsi palautukset osallistuvat automaattisesti myös kilpailuun, ja voit saada enintään 2 lisäpistettä, jos koodisi on yksi kurssin nopeimmista ratkaisuista!

AjoaikaLisäpisteet
≤ 1.20 × nopein 1
≤ 1.05 × nopein 2