Z takich ciekawostek, w Chrome jest już LLM.... o tak go można użyć
const session = await LanguageModel.create();
const result = await session.prompt( "Explain Dijkstra's algorithm in three sentences.");I np. kiedyś zrobiłem sobie rozszerzenie do Chrome, które miało oceniać czy link jest clickbaitem czy nie, bazowało na prostym wyliczeniu czy coś jest clickbaitem na podstawie słów w tytule... tutaj teoretycznie można by użyć promptu ;-)
Aż pewnie spróbuję.
Też zauważyłem inną rzecz, totalnie nie związaną z tą ciekawostką.
Jak nie wiem jak się czuję, co myślę i tak dalej to piszę sobie 5 minutes Journal, czyli przez 5 minut piszę wszystko co mi przychodzi do głowy w odpowiedzi np. na pytanie "co czuję?" czy bardzo "co teraz czuję?".
Jakoś tak zacząłem to wrzucać do lokalnych modeli językowych (ważne - lokalnych) i ogólnie mnie chwaliły, wcześniej w prompcie im dawałem by sprawdziły jaki jest mój stan mentalny i tak dalej. No i zawsze mnie chwaliły, a dziś zaczęły mnie pocieszać i ogólnie nie do końca spodobało mi się to co mi napisała Gemma i Qwen (ale takie malutkie te modele, na moim Macbook Air M4 z 24 GB RAM mogę max jakieś ~9b parametrów wygodnie uruchamiać).
Stąd uznałem, że co one głupie wiedzą, przecież to tylko modele językowe ;-)
(dopisane po chwili, dla sprawdzenia wrzuciłem to na większym komputerze też do Gemmy i Qwena ale takich po ~30b parametrów i te były o wiele bliższe tego co oczekiwałem - te mniejsze ztrigerowała jedna z rzeczy z wpisu)
Stąd wniosek - z modelami się trzeba niezgadzać. Wtedy gdy piszą coś z czym się człowiek nie zgadza jest prościej ;-)
Podobne postybeta
Journaling w LLM, albo jak małpuję po LLMie ;-)
Nikt już nie dba o tekstowe przeglądarki
Zauroczył mnie Cladue Code ;-)
Szycie....
Podwójne standardy - Tybet a Arabia Saudyjska.
Brak komentarzy:
Prześlij komentarz