LLM dla relaksu.

	B O A R D
	» Board » Zadaj pytanie » Archiwum » Szukaj » Stylizacja

M E N U

» Nowości

» Archiwum

» Recenzje / Testy

» Board

» Rejestracja

Szukaj @ TwojePC

	OBECNI NA TPC
	» Kelso1 08:10 » DJopek 08:10 » Hitman 08:05 » maddog 08:01 » Lucullus 07:53 » Kenny 07:34 » KHot 07:34 » DYD 07:11 » rookie 06:54 » PeKa 06:51 » Bonifacyz 05:44 » piszczyk 05:01 Dzisiaj przeczytano 20986 postów, wczoraj 22848 Szybkie ładowanie jest: włączone.

ccc

A R C H I W A L N A W I A D O M O Ś Ć

LLM dla relaksu. , etranger 29/01/26 18:54
Jako ze jestem po wypadku przy pracy, to mam troche czasu.
AMD dalo nowy sterownik razem z narzędziami do AI.
Zapytałem mojej haLucyny do czego to może służyć skoro OpenAi potrzebuje sprzętu za miliardy i własnej elektrowni.
Odpowiedz mnie zaskoczyła, okazuje się ze można z tego zrobić fajne narzędzie np, do segregowania zdjęć. Mam olbrzymia bibliotekę która przez wszystkie te lata troche się pomieszała, przenoszenie z różnych chmur do innych, odzysk z konta Facebook, wiec tagi się popieprzyły i jest to jeden wielki zlepek, bez ladu i składu. Siedzę już któraś godzine, haLucyna powoli wprowadza mnie w arkana, co ciekawe dopiero po jakimś czasie kiedy mieliśmy sporo problemów, ze składnia, a
ja sam już myślałem żeby ja zapytać o edytor choc troche lepszy od notatnika, sama mi powiedziała ze teraz trzeba przeskoczyć na cos co pozwoli normalnie edytować kod. Python jest w pyte, a ja wybrałem VSC.
Na prawde to fajna zabawa jak sie juz czlowiekowi znudzi War Thunder.

IStal sie switch:)

to napisz ktory model uruchamiasz , Menah 30/01/26 10:15
i ile pamięci to potrzebuje.
W sumie to ja nie wierzę w ten internet
Do captioningu obrazów użyliśmy BLIP: Salesforce/blip-image-captioning-base. , etranger 30/01/26 12:05

Model generuje opis obrazu (caption).

Tagowanie robimy w drugim kroku: caption trafia do lokalnego LLM uruchomionego przez Ollama, który mapuje opis → tagi z zamkniętego słownika i zwraca JSON ({"tags": [...]}).

Całość działa w pełni lokalnie (Windows, bez chmury), wyniki zapisywane do SQLite.
IStal sie switch:)
1. fajny pomysł , Menah 30/01/26 12:30
  jak się uporam z zebraniem wszystkich swoich zdjęć z wszystkich dysków wszystkich maszyn to może też takie coś takiego sobie zrobię i mi otaguje wszystkie zdjęcia automatycznie. Potem może Immich czy digiKam desktopowy ... fajnie :)
  W sumie to ja nie wierzę w ten internet
Narazie pracuje to na malej, relatywnie malej , etranger 30/01/26 13:24
próbce plików z jednego katalogu śmieciowego 1360 sztuk.
Musze jeszcze dograć kilka elementów i wtedy zapuszczę to na wszystkie lokalne katalogi ze plikami graficznymi i video.
Robię to dość powoli, bo zielonego pojęcia nie mam o co chodzi wiec każdy krok analizuje i staram się zrozumieć, jestem w końcu fizycznym pracownikiem budowlanym.
Na koniec jeszcze przed zapuszczeniem tego na wszystkie katalogi, bede staral sie to polaczyc z 9070 xt, ale to na samym koncu. To co teraz dziala, dziala na CPU i wyniki na teraz to Benchmark lokalnego tagowania (BLIP caption + lokalne tagowanie przez Ollama) na Windows: 50 obrazów w 251.5 s (~11.9 img/min, ~5.0 s/img wall). Python process miał peak RAM ~1.3 GB i średnie obciążenie ok. 2.7 rdzenia CPU (cpu_time/wall ≈ 2.73). Czyli RAM ~1.3 GB, CPU ~2–3 rdzenie średnio.
IStal sie switch:)
haLucyna jest zajbistym nauczycielem , etranger 30/01/26 13:29
Jak cię wqrwi to ja wyłączasz a ona się nie obraza :) Jeśli dyskusja jest za długa, czyli załóżmy 5 godzin pisaniny, i wklejania listingów i przeglądarka internetowa klęka, to każesz jej zrobić streszczenie, to streszczenie wklejasz do nowego chata i mówisz ze kontynuujemy od ostatniego momentu, w ten sposób przeglądarka nie klęka, nie ma lagow, a tym masz kontynuacje wątku.
IStal sie switch:)
ale zrobiles... , metacom 31/01/26 00:22
...najpierw kopie tych zdjec?
Największą sztuczką Szatana jest to,
że ludzie w niego nie wierzą.
Mam w cholere roznych dyskow, wiec i kopii , etranger 31/01/26 09:42
Od groma, o to się nie martwię.
Skrypt przeczesuje dyski w poszukiwaniu zdjęć, w tej wersji, szuka po googlach, icloud, amazon, live, potem sobie je segreguje datami jeśli jest w stanie cos odczytać a następnie przegląda te zdjęcia i taguje po tym co na nich znalazł, a na sam koniec na osobnym dysku ma katalog gdzie je kopiuje i układa według wcześniejszych założeń. Udało się nawet uruchomić Radeona do tego.
Jak dla mnie to bardzo fajna zabawa jest.
Dodatkowo, video na razie olewa, jeśli sa jakieś "poszarpane" zdjęcia z cyklu 1-5kb bo chmura je uwalila, co się nader często zdarza, to próbuje je odczytać a jeśli się nie da to olewa, jeśli z jakiś względów operacja zostanie przerwana to pamięta gdzie był i co robił, zapisuje to w sqlite.
Do końca jeszcze nie wiem jak to działa od wewnątrz, ale jest to oparte na ścieżce, hash, timestamp modyfikacji no i na statusie oczywiście.
Musze to jeszcze troche dopracować pod katem tagow, poza tym sam fakt ze to działa jest dla mnie magia. No i brakuje mi interfejsu, takiego zjadliwego interfejsu, ale to już będzie inna historia. Jeśli cię to interesuje mogę ci dac cały listing wraz komentarzami w srodku.

IStal sie switch:)
1. Zmina jeszce jedna jak sie zrobila wczoraj to , etranger 31/01/26 09:44
  było: Ollama → CPU
  jest llama.cpp server → Vulkan → AMD GPU
  IStal sie switch:)