Grilled Cheese

ExploreLog inSign up

Don Trueten :antifa:

@thomas.mastodon.trueten.de.ap.brid.gy

0 Following52 Followers

"Those are my principles. If you don’t like them - I have others." Groucho Marx

Born @ 318.43 ppm in HH/Germany
work: Social hammock. (Retired) Ex. Metal Worker […]

🌉 bridged from ⁂ https://mastodon.trueten.de/@thomas, follow @ap.brid.gy to interact

PostsRepliesMedia
@thomas.mastodon.trueten.de.ap.brid.gyOct 11, 2026, 12:07 PM

# 12 Jahre Gasparitsch – Ein Fest der Selbstorganisation und Gemeinschaft in Stuttgart-Ost

Das Stadtteilzentrum Gasparitsch feiert 2026 nicht nur ein weiteres Jahr seines Bestehens, sondern auch 12 Jahre voller Engagement und Selbstorganisation in […]

[Original post on mastodon.trueten.de]

Hochformatiges Veranstaltungsplakat zum Jahresfest des selbstverwalteten Stadtteilzentrums Gasparitsch in Stuttgart-Ost. Auf cremefarbenem Hintergrund dominieren große schwarze und rote Schriftzüge sowie orangefarbene Flächen. Das Fest findet am Samstag, 17. Oktober, ab 14 Uhr in der Rotenbergstraße 125 statt. Angekündigt werden Kinderprogramm, Kaffee und Kuchen, Essen, Infostände, Tombola und Livemusik mit Post Pacific und James Bar Bowen. Ab 22 Uhr folgt eine Aftershow-Party mit DJs. Das Plakat lädt die Nachbarschaft ein, gemeinsam das Bestehen des Stadtteilzentrums zu feiern.
@thomas.mastodon.trueten.de.ap.brid.gyOct 11, 2026, 11:12 AM

Beim Gongschlag ist es genau 13:12

@thomas.mastodon.trueten.de.ap.brid.gyOct 11, 2026, 5:33 AM

Welcome to the Sun!

@thomas.mastodon.trueten.de.ap.brid.gyOct 10, 2026, 10:00 PM

Beim Gongschlag ist es genau 00:00

@thomas.mastodon.trueten.de.ap.brid.gyOct 10, 2026, 11:12 AM

Beim Gongschlag ist es genau 13:12

@eikeleidgens.det.social.ap.brid.gyOct 10, 2026, 7:30 AMReposted by @thomas.mastodon.trueten.de.ap.brid.gy

#Psychotherapie spart Kosten im Gesundheitswesen. Die jetzt geplanten Kürzungen in der psychotherapeutischen Versorgung könnten sich daher ins Gegenteil verkehren.
- Andreas Pichler, #Psychotherapeutenkammer #NRW

Das Problem ist, dass die Reformen von der Politik […]

[Original post on det.social]

Foto vom Grußwort zur Eröffnung des Kongresses
@kulturmensch.bildung.social.ap.brid.gyOct 10, 2026, 6:13 AMReposted by @thomas.mastodon.trueten.de.ap.brid.gy

Fridtjof Nansen: Ein Leben für Polarforschung und Geflüchtete
Fridtjof Nansen (geboren 10.10.1861) wagt sich ins Packeis, überlebt monatelang in einer Eishöhle und wird später zum Anwalt für Staatenlose. Er prägt Flüchtlingshilfe.
https://www.ardsounds.de/episode/urn:ard:episode:6aa544c98e155f68/

@ritawerner.mastodon.social.ap.brid.gyOct 9, 2026, 8:28 PMReposted by @thomas.mastodon.trueten.de.ap.brid.gy

#DankeAntifa
Nazis und ein klares "Du kommst hier nicht rein".
Und der Nazi labert sich einen Wolf und wird ignoriert.

Hier sehen wir eine antifaschistische Brandmauer.
https://taz.de/Gedenken-an-Anschlag-in-Halle/!6220279/?shem=aimgspe,

@thomas.mastodon.trueten.de.ap.brid.gyOct 10, 2026, 5:31 AM

Welcome to the Sun!

@thomas.mastodon.trueten.de.ap.brid.gyOct 9, 2026, 10:00 PM

Beim Gongschlag ist es genau 00:00

@padeluun.digitalcourage.social.ap.brid.gyOct 9, 2026, 9:12 PMReposted by @thomas.mastodon.trueten.de.ap.brid.gy

R.I.P. Klaus Bresser

@thomas.mastodon.trueten.de.ap.brid.gyOct 9, 2026, 4:51 PM

Zeit für ein vorläufiges Résumé: #Qwen3 4B über Ollama: für inhaltliche Fragen an das #Paperless-Archiv. Qwen3 1.7B über Ollama: für einfachere Aufgaben, wenn die Geschwindigkeit wichtiger ist. #Vulkan: vorerst als experimentelle Option, nicht als produktiver Paperless-Backend-Dienst geeignet.

Screenshot: 

Variante	Reine Inferenzzeit
Qwen3 4B Ollama CPU	103,08 s
Qwen3 4B Vulkan, zweiter Test	138,09 s
@thomas.mastodon.trueten.de.ap.brid.gyOct 9, 2026, 4:39 PM

Kleinere Batches bringen ebenfalls kein signifikante Verbesserung. Von den drei getesteten Einstellungen ist -b 32 -ub 8 die beste. Sie verarbeitet Prompts etwa 41 % schneller als 16 / 4. Die Textgenerierung bleibt bei allen drei Varianten nahezu gleich schnell.

Screenshot:

Vergleich aller drei Batchkonfigurationen
Batch -b / -ub	Prompt-Verarbeitung	Textgenerierung
16 / 4	9,36 tok/s	11,92 tok/s
32 / 8	13,20 tok/s	11,99 tok/s
128 / 32	3,98 tok/s	11,96 tok/s
@thomas.mastodon.trueten.de.ap.brid.gyOct 9, 2026, 4:35 PM

Insgesamt eher ernüchternd.

Screenshot mit Benchmark bei dem ich die Batchgröße geändert habe.

Benchmark-Vergleich: Qwen3 4B
Messwert	-b 32 -ub 8	-b 128 -ub 32	Veränderung
Prompt-Verarbeitung (pp128)	13,20 tok/s	3,98 tok/s	70 % langsamer
Textgenerierung (tg64)	11,99 tok/s	11,96 tok/s	Praktisch unverändert
@thomas.mastodon.trueten.de.ap.brid.gyOct 9, 2026, 3:48 PM

Sobald es komplexer wird, reicht Qwen3 1.7B nicht mehr. Und tschüß. Welcome to the jungle, Qwen3 4B

Screenshot des Vergleiches Qwen 1.7B und 4B 

Benchmark-Ergebnis
Messwert	Qwen3 4B Vulkan	Qwen3 1.7B Vulkan
Prompt-Verarbeitung (pp128)	13,20 Tokens/s	37,38 Tokens/s
Textgenerierung (tg64)	11,99 Tokens/s	25,82 Tokens/s
Modellgröße	2,32 GiB	ca. 1 GiB
@thomas.mastodon.trueten.de.ap.brid.gyOct 9, 2026, 2:23 PM

Gnädigkeit der Woche:

# Rentner erhält Pfandgeld zurück

Das #Sozialamt in #Hamburg - #Altona hat einem #Rentner mehr als 100 Euro zurückerstattet, die es ihm zuvor von der #Grundsicherung abgezogen hatte. Er hatte sie durch #Pfandsammeln erwirtschaftet.

(...)

Mehr dazu bei hinz & kuntzt […]

@thomas.mastodon.trueten.de.ap.brid.gyOct 9, 2026, 2:05 PM

CPU und Vulkan-GPU jeweils mit warmem Prompt-Cache, identischem Systemprompt, identischem Werkzeug und derselben Qwen3-1.7B-Modelldatei:

Screenshot mit Diagramm der Inferenzzeit in Sekunden. Niedriger ist besser. 

Phase	CPU / Ollama	GPU / Vulkan
Werkzeugaufruf	2,44 s	1,97 s
Antwort nach Werkzeug	3,55 s	0,50 s
Inferenz gesamt	5,98 s	2,47 s
@thomas.mastodon.trueten.de.ap.brid.gyOct 9, 2026, 2:00 PM

Angestrebte Chancengleichheit...

Screenshot mit der Ausgabe der beiden Modelle für den nächsten Benchmark: 

Modell: Qwen3 1.7B CPU Benchmark
ID: qwen3-17b-cpu-benchmark
Basismodell: qwen3:1.7b
Systemprompt: 780 Zeichen
Prompt-Prüfsumme: e9e230edb085ad26
Thinking: False
Werkzeuge: ['paperless_ngx_1_7b']

Modell: Qwen3 1.7B Vulkan Benchmark
ID: qwen3-17b-vulkan-benchmark
Basismodell: /usr/share/ollama/.ollama/models/blobs/sha256-3d0b790534fe4b79525fc3692950408dca41171676ed7e21db57af5c65ef6ab6
Systemprompt: 780 Zeichen
Prompt-Prüfsumme: e9e230edb085ad26
Thinking: False
Werkzeuge: ['paperless_ngx_1_7b']
@thomas.mastodon.trueten.de.ap.brid.gyOct 9, 2026, 1:18 PM

Beinahe brauchbar: Ergebnis mit Positivantwort.

Screenshot mit der Testfrage:

Findest Du das Rezept Knoblauch-Butter-Kohl in meinem Paperless-Archiv?



Qwen3 1.7B Vulkan Paperless
Ergebnis von search_paperless_documents ansehen
Eingabe
query
Knoblauch-Butter-Kohl
question
Findest Du das Rezept Knoblauch-Butter-Kohl in meinem Paperless-Archiv?
Ausgabe
{
  "result_status": "locally_supported_match",
  "search_hits": 1,
  "matches": [
    {
      "id": 1112,
      "title": "Knoblauch-Butter-Kohl"
    }
  ]
}
Ich habe das Rezept "Knoblauch-Butter-Kohl" gefunden. Es handelt sich about Dokument-ID 1112.
@thomas.mastodon.trueten.de.ap.brid.gyOct 9, 2026, 1:14 PM

Schon besser: Ergebnis mit Negativantwort.

Screenshot des Abfrageergebnisses:

Findest Du eine Rechnung für Kingston Speicher?



profile
Qwen3 1.7B Vulkan Paperless
Ergebnis von search_paperless_documents ansehen
Eingabe
query
Kingston Speicher
question
Findest Du eine Rechnung für Kingston Speicher?
Ausgabe
{
  "result_status": "no_locally_supported_match",
  "search_hits": 3
}
Ich habe kein passendes Dokument gefunden.
Older posts
Terms of UsePrivacy PolicyCommunity StandardsHelpGet the app

Grilled Cheese is a product of Village Compute

Version devBuilt at: 2026-10-11 02:37:10 EDT