Zunächst FastCopy aller Videos auf HDD. Die lahme SSD macht 230 MB/s mit 75%, was 100% max Speed der HDD ist. Somit alles OK und in 1:30h 1.3TB gesichert.
Seit einigen Tagen gibt es keine Abfrage-Beschränkungen für das GPT4 Webinterface. Ich schaute schon länger nach einer Bridge, um nicht die API zahlen zu müssen. Ich brauche Automation, denn meine Prompts sind ja doch textlastig, ständige Copypasta aufwändig und alles sowieso komplex.
Heute fand ich eine gut nutzbare Bridge. Sie funktioniert mit einer custom Electron App, welche nur die GPT Website nutzt und eben über Websocket dann die Nachrichten mit dem CLI kommuniziert. Erst wollte ich alle .js als exe compilieren aber scheiterte bei nexe doch an Windows-typische Probleme. Die Electron Kompilierung ging problemlos. Die Bridge hatte auch einige Linux typische Eigenheiten, die GPT4 für Windows fixte.
Jetzt kann ich tatsächlich aus CLI eine Response bekommen und muss nicht dauernd über copy/paste hantieren. Ich hoffe, dass damit die ganzen Übersetzungen und SRTs funktionieren werden, denn bei so viel Text wäre das alles sonst arg langwierig manuell. So kann ich die Sachen vielleicht im Hintergrund tippen lassen, denn GPT4 ist ja nicht so schnell. Bald werde ich sehen, ob die ganze Megaprompt mit Continues auch gehen und ich wie das in Batches unter Python bearbeiten kann. Vielleicht nützt das alles auch gleich als Server und man kann die OpenAI API mocken. Coole Sache jedenfalls, weil kluge Leute ihre Scripte zur Verfügung stellen. Happy!
Abends einkaufen und eine Pizza mit Rotwein.
Ich spielte weiter mit den Sources und stellte alles auf default GPT4 um, weil eben die Qualität viel besser ist. Auch änderte ich die bridge, Browser und handler auf meine lokalen Pfade mit meinen Anpassungen. Schon eine hackbare Architektur. Ich bin erst einmal zufrieden, wie gut bisher die Abfrage per cURL ging. curl -X POST -d 'What is the capital city of South Africa?' http://localhost:5678/chat
Ein paar Fehler bekam ich nicht weg. Irgendwelche Serialize Sachen in der V8…
Error occurred in handler for 'GUEST_VIEW_MANAGER_CALL': Error: An object could not be cloned.
at t.ipcRendererInternal.send (node:electron/js2c/sandbox_bundle:2:50395)
at EventEmitter.
Viel sollte ich mich nicht aufhalten. Per curl habe ich eine OK Möglichkeit API-ähnlich zu operieren. Ein CLI Tool für Start/Stop und Bedienung a la IRC fing ich auch an aber bringt eben wenig. Am Ende geht’s schneller im Webinterface, wenn ich was manuell brauche, anstatt irgendwelche Python Scripte zu starten.
Nun bin ich sehr zufrieden mit der Infra auf billig und dem Workflow: GPX -> Sights/Streets GeoJSON -> Wikipedia Extracts -> GPT4. Ich dachte schon daran, die Subtitles, live über Websockets und Marker in DaVinci Resolve per GPT4 zu generieren doch SubEdit ist dank besserer Funktionen erst mal noch im Workflow.
Nun heißt es, das Ganze auch in Masse zu nutzen. Textsynthese aus Bewegungsdaten zur Aufwertung von Spaziervideos. First World Problems, ha.
Wroclaw ging erst nach 23:00 online. Noch ohne Subs…
Danach Foundation S02 bis in den Morgen.
0 Responses to “GPT Bridge”