Programmieren lassen: DeepSeek in KoboldCpp generiert jQuery, PHP, AJAX & HTML

class: center, middle

![img33r](drache1.webp)
## Programmieren lassen
# DeepSeek in KoboldCpp
### jQuery, PHP, AJAX & HTML
### Hauke Goos-Habermann
#### https://goos-habermann.de

---

### Über mich

- Entwickler des <a href="https://m23.sourceforge.io">Softwareverteilungssystems m23</a>

- Organisator der <a href="https://kielux.de">Kieler Open Source und Linux Tage</a>

- <a href="https://goos-habermann.de/">Dienstleister zu m23, Linux und Freier Software</a>

- Softwareentwicklung (PHP, BASH, C/C++, JS, Python und was sonst so gebraucht wird...)
  - Administration
  - Schulungen
  - Support
  - Beratung
  - quasi **alles**, *was mit Linux zu tun hat*

- Wöchentlicher Livestream *"Jean und Hauke Show"* auf https://www.youtube.com/c/LinuxGuides

- *"Nicht der Weisheit letzter Schluß"* mit **beruflichen** oder **privaten Projekten** auf <a href="https://tube.tchncs.de/c/ndwls">tube.tchncs.de/c/ndwls</a> und <a href="https://youtube.com/@nichtderweisheit">youtube.com/@nichtderweisheit</a>

- Probiert gern OpenSource KI-Software aus.

---

### KoboldCpp

![img33r](gnom05.webp)

KoboldCpp ist ein in C++ geschriebenes ***Ausführprogramm*** für **künstliches neuronale Netzwerke**. Mit KoboldCpp könnt Ihr Euch **unterhalten** (Chat-Modus) oder daran **Aufträge geben** (Instruct-Modus).

Grundlagenvideo dazu: <a href="https://goos-habermann.de/weisheit-10170-Programmieren-lassen-Spiele-mit-KoboldCpp">Programmieren lassen: "Spiele" mit KoboldCpp</a>
---

### Das Netz

![img33r](drache3.webp)

**<a href="https://www.deepseek.com">DeepSeek</a>** ist ein ***chinesisches* KI-Startup**, welches das Modell **DeepSeek R1** unter **MIT-Lizenz** veröffentlicht.

Das <a href="https://github.com/deepseek-ai/DeepSeek-LLM">Modell</a> soll beispielsweise konkurrenzfähig zu ChatGPT oder Claude sein, benötigt aber **weniger Hardwareressourcen** bei der Ausführung.

**<a href="https://huggingface.co/mradermacher/DeepSeek-R1-Distill-Qwen-32B-Uncensored-GGUF">DeepSeek-R1-Distill-Qwen</a>** (32 Mrd. Parameter, ca. 19 GB) optimiert das <a href="https://huggingface.co/Qwen">Qwen-Netz</a> von Alibaba Cloud in richtung von DeepSeek R1.

Mehr dazu

* Video von ***The Morpheus Tutorials*** ⇒ <a href="https://youtu.be/3chfe8Q9rtQ">DeepSeek R1: Gratis & Open Source SCHLÄGT ChatGPT O1!</a>
* https://de.wikipedia.org/wiki/DeepSeek
---

### Starten

![img33r](drache4.webp)

KoboldCpp wird über eine **Webseite gesteuert**, aber auf der **Kommandozeile** oder über ein kleines grafisches Programm **konfiguriert**, um möglichst gut zur Hardware zu passen.

```bash
./koboldcpp-linux-x64 --usecublas\
 --smartcontext --gpulayers 20\
 --contextsize 8192 --model\
 DeepSeek-R1-Distill-Qwen-32B-*.gguf
 
```

Oberfläche im Browser öffen: http://localhost:5001

PS An das **Maximum** für die auszulagernden Ebenen könnt Ihr Euch herantasten:

Werden zuviele Ebenen ausgelagert, **stürzt** KoboldCpp **sofort** oder spätestens **beim Starten eines Chat** ab. Geht dann mit der Anzahl herunter, bis KoboldCpp stabil läuft.
---

### Projekt: jQuery, PHP, AJAX & HTML

![img33r](drache5.webp)

**Frage:** *Erstelle ein Beispiel wie eine HTML-Tabelle mit JQuery dynamisch erweitert werden kann. Die einzufügenden Daten werden mit einem PHP-Skript generiert. Zeige den Quelltext für JQuery-Javascript, HTML und PHP.*

**Generiert** wurde konsistenter **Quelltext** (<a href="jquery-php-ajax-deepseek.zip">zip</a>) in den **drei Sprachen** JavaScript/jQuery, HTML und PHP.

Für PHP und JavaScript wurden die Dateinamen vorgegeben, sodaß der generierte Quelltext in die Dateien eingefügt werden kann:

* generate_data.php
* script.js

Und ja: Das läuft alles ohne Modifikation. Da bei jeder neuen KoboldCPP-Sitzung aber anderer Code generiert wird, ist es auch Glückssache.
---

class: center, middle
### Informationen zu mir und meinen Dienstleistungen, m23, ...
### https://goos-habermann.de