man könnte auch sagen „nur“ deine Rechnerkapazität als limitierender Faktor… GPUs im Profisegment kosten ja 30-40k - wir haben eine Abteilung bei uns in der Firma, die auch unbedingt lokal mit LLM’s arbeiten wollen und die sind ständig am Rufen nach mehr Hardware - AI, v.a. LLM ist halt eine Hardware- und Energieschlacht.
Inwieweit Mistral da schonender mit Ressourcen umgeht, entzieht sich meiner Kenntnis
1 „Gefällt mir“
Okay, damit hat sich die Idee instant in Luft aufgelöst 
Testen und bewerten, bisher war alles soweit in Ordnung, da ich mich mit mehreren Sprachen gleichzeitig beschäftige, kann ich hier schon mal sagen… Englisch/Deutsch ja, Koreanisch etc. nur rudimentär. Vielleicht muss ich dann ein anderes Modell laden.
Zur Hardware: einen „Standard“ Mac Studio mit 64 GB Ram und M2 Ultra, lediglich die Modelldatei liegt auf einem SSD Thunderbold Laufwerk um den interen SSD-Speicher zu entlasten. Mistral ist 26 GB groß.
In 2 Monaten kommt ein M4 her, ob ein Studio oder Mini, werden wir sehen 
Ollama und Stable Diffusion laufen parallel auf dem Rechner und ich bin zufrieden.
2 „Gefällt mir“
Ich habe gerade ChatGPT (o1 pro) dazu gebracht, seit mehr als 5 Minuten über eine Frage zu grübeln… Sprachmodellexporte um daraus ein Modell zu exportieren, dass nur mit meinem vorgegebenen Wissen und Charakteren eine Romanhilfe geben soll…ohne das Allgemeine Weltwissen, nur extrahiert auf mein „kleine“ Romanwelt…ok bisher 10 Minuten.
1 „Gefällt mir“
Ich hab jetzt in der endkorrektur probiert
Das Ergebnis war bahnbrechend. So genau hab ich noch nie gearbeitet. Ich hab nicht nur eigene Fehler gefunden sondern auch die von geppie.
Der einzige Vorteil, ich habe einen besseren Focus auf den Text an sich.
1 „Gefällt mir“
Ich stelle mir gerade einen KI Rechner zusammen, teures Hobby , dann kann ich besser experimentieren, vorallem das Lernen/Trainieren interessiert mich.
Denkst du, dass sich das auszahlt?
Für was hast du denn vor, mit der KI herumzuspielen? (also ernst gemeinte Frage … noch bin ich zu jung, um das Thema ganz links liegen lassen zu dürfen)
Meine Idee, erst mal die großen Modelle lokal zum Laufen zu bringen.
DeepSeek hat einen Index von ca 700 GB, der wird dann lokal nicht zensiert, daraus werde ich dann testweise erst mal „Studentenmodelle“ erstellen, die eine bestimmte „Destillation“ haben, Sprach-IDs testen, Destillation in verschiedenen Sprachen, in meinem Fall, Koreanisch, Japanisch, Chinesisch, Russisch und Französisch, einfach um zu sehen wie das alles funktioniert.
Dann nächster Schritt, „Wissen“ destillieren, hierzu sind Abfragesets notwendig, die ich wahrscheinlich lerne, wenn ich mich mit der Sprachdestillation beschäftige. Also alles ein Thema, was sicher ein paar Monate in Anspruch nimmt.
Sehen wir es mal so, was lohnt sich in der IT, wenn man es privat macht ?
Bin ein ziemlicher Freak, wenn es um sowas geht. Zudem gibt es bei uns in der Firma demnächst einen KI Cluster, den ich aber für sowas nicht benutzen kann.
Wenn dich IT interessiert und du gerne in der Linuxkonsole arbeitest, dann sind das keine schlechten Erfahrungen, wenn man noch jung ist. Ich mach das jetzt schon etwas länger Wenn ich „heute nochmal jung wäre“ wäre das mein Thema.
Mitte der 90er konnte man eine zeitlang bei Yahoo! solche Abfragen schon machen, die waren aber sehr beschränkt im Ergebnis, für „damals“ aber schon sehr faszinierend.
2 „Gefällt mir“
Alter Schwede!
Willst du die Weltherrschaft übernehmen?
1 „Gefällt mir“
Ich verfolge die Entwicklung der aktuellen AI-Modelle nun schon eine ganze Weile. Sehe aber nach wie vor davon ab, sie für mein Schreiben einzusetzen. Nicht einmal, um Namen oder Charaktere zu generieren, geschweige denn, meine Erzählsprache zu bearbeiten. Ich werde auch weiterhin Herr meiner Plots, Protagonisten und Sprache bleiben. Solange deren Qualität ausreicht für eine GLAUSER-Nominierung, gibt’s da keinen Änderungsbedarf 
Wo AI aber sehr wohl hilfreich sein kann, ist der Bereich der (in meinem Fall) intensiven Fakten-Recherche jenseits von Google. Perplexity und ähnliche Konstrukte gehören meines Erachtens heutzutage ins Toolset von Autorinnen und Autoren.
2 „Gefällt mir“
Kannte ich bislang nicht, sieht aber interessant aus?
1 „Gefällt mir“
Ich bin da zu einfach gestrickt. Da bin ich wie die meisten anderen.
Und ganz nebenbei steht es jeden frei, das zu nutzen, was er will. Man muss sich nicht jedesmal rechtfertigen müssen.
2 „Gefällt mir“
Mich fasziniert die Möglichkeit und das Ergebnis. Ich mag es Computer zu „belasten“.
Ich schreibe parallel ohne KI sowieso weiter, als Ausgleich. Wenn ich dann beides verbinden kann, habe ich schon für mich eine kleine Welt erstellt und kann eintauchen. Ich sehe alles als Experiment.
Wenn ich in Rente gehe, dann wird KI eh schon alles kontrollieren bzw. tief verwurzelt im Alltag sein, ich will dann wenigstens kurz die Möglichkeit haben, sie zu beeinflussen… 
1 „Gefällt mir“
Ich habe Perplexity ausprobiert und konnte damit nichts anfangen. In mein Toolset haben solche Konstrukte noch keinen Einzug eingehalten. Wozu auch?
Diese ganzen Tools eignen sich hervorragend zur Recherche. Eine Schreibblockade ist per se ein Mangel an Information und weniger ein Mangel an Ideen. Dramaturgische Entscheidungen sollten immer aus einem Ideenpool erfolgen und nie aus Verlegenheit. Das gilt für Drehbücher genauso wie für Kurzgeschichten, Novellen, Romane usw. Diese Ideen kann eine KI liefern. Oder sie stellt Fragen, die mich bewegen über einen Aspekt noch einmal nachzudenken.
Ich bin sicher, dass es da draußen inzwischen Verrückte gibt, die sehr viel Zeit darauf verwenden, einer KI mitzuteilen, wie sie einen Roman zu schreiben hat. Bei den Prompts gibt es ja keine Grenzen. Allerdings ist das immer noch so aufwendig, dass selbst zu schreiben ökonomischer ist. Das wird aber in Kürze möglich sein – zumindest in der Belletristik. Dort wird ein völlig neuer Markt entstehen.
Was die Literatur betrifft: Texte mit Seele zu verfassen, wird noch eine Weile dauern. Alles, was ich bis dato in Experimenten gelesen habe, ist fürchterlich kalt, mechanisch und ohne Herz. Man merkt es einfach. Da mögen die Worte noch so geschliffen, kopiert, improvisiert oder spontan verfasst sein – es fehlt der Faktor Mensch.
Das Einzige, was ich sagen kann, ist, dass in der Bild- und Videogeneration die Ergebnisse bereits ein solches Niveau erreicht haben (ich spreche von den professionellen, nicht von den Tools, die frei im Netz angeboten werden – das ist nur ein Abglanz des aktuell Möglichen) das selbst ich kaum noch unterscheiden kann, ob es sich um eine reale Szene oder eine KI-generierte handelt. Zumindest für etwa 15 Sekunden. Danach beginnt das System zu „morphen“, und Fehler schleichen sich ein. Die Industrie arbeitet mit aller Intensivität daran, dieses Manko zu beseitigen. Kurze Werbeclips, Teaser usw. werden bereits jetzt schon damit produziert. Der Grund ist einfach: Man spart Millionen Produktionskosten.
Geht die technische Entwicklung in diesem Tempo weiter, gehe ich davon aus, dass wir spätestens in drei Jahren einen vollständig von KI generierten Spielfilm sehen werden, der von einem konventionellen nicht mehr zu unterscheiden ist – abhängig von der Begabung der Prompt-Ingenieure, die entweder selbst zu Regisseuren werden oder Regisseure, die sich ihrer bedienen.
In der Branche herrscht derzeit etwas Panik. Schauspieler fürchten um ihre Existenz. Ich bin jedoch sicher, dass der KI-Spielfilm nur ein zusätzliches Medium sein wird – so wie es neben der Malerei die Fotografie oder neben Schwarz-Weiß die Farbe gibt.
Die Grenzen werden fließend sein: Jeder konventionelle Film wird KI-Elemente enthalten (etwa bei der Deko), und umgekehrt. Oder man fügt einen KI-Charakter ein der nach Vorgabe oder aus eigener Resource mit realen Schauspielern interagiert.
Aufhalten lässt sich das nicht. Es wird ein neuer Teil der Medienlandschaft.
Einen ähnlichen Verlauf wird es in der schreibenden Zunft geben. Die Grenzen zwischen Mensch und Maschine werden verwischen. Die Frage ist, wie wir am Ende damit umgehen.
Bin ziemlich sicher, das es in nicht allzu ferner Zukunft einen Preis geben wird für den besten Prompt-Ingenieur einer KI-Story für diverse Kategorien. Vielleicht für die originelleste Kommasetzung frei nach Kafka o. den akrobatischesten Bandwurmsatz a la Günter Grass.
Die Zukunft wird interessant …
1 „Gefällt mir“
Die Zukunft wird in vielerlei Hinsicht interessant werden. Ein Grund mehr Mensch zu bleiben, solange man es noch kann. Das ist das, was man selbst in der Hand hat.
Wir können uns aber nicht jetzt schon verrückt machen ( lassen ), was kommt und wie es kommt. Für uns hier Anwesenden wird KI unser Schreiben nicht maßgebend beeinflussen. Der eine spielt damit, der andere nicht. Ich stelle mal die steile These auf, dass niemand von uns den Literaturnobelpreis bekommt und auch nicht zu Literaturfernsehsendungen eingeladen wird. Meine Literatur zum Lesen suche ich mir selbst aus und ehe KI mich komplett umschlungen und neutralisiert hat, ist eh Ende Gelände.
7 „Gefällt mir“
Das hast Du wunderschön gesagt.
6 „Gefällt mir“
Die Dinge, die mir am Schreiben Spaß machen, würde ich keiner KI schenken. Also das Schreiben an sich, die Recherche, zumal die KI auch Blödsinn zusammenrecherchiert und man da eh alles überprüfen muss - da kann ich auch gleich selbst herumschnüffeln. Ich sprech dabei nur für mich, jemand, der gut damit klarkommt, dem gönn ich jedes Bit KI-Helferlein und verurteil es auch nicht.
Einen komplett KI-generierten Text allerdings sehe ich als Selbstbetrug. Ich könnte mich dann nicht Autor nennen. Und ähnlich wie oben schon jemand schrieb: KI ist nicht aufzuhalten und wird eine weitere Kunstform begründen. Das Ende des menschlichen Handwerks und Geistesfunken sehe ich da nicht.
Das, was ich nicht gut kann: am Anfang so richtig originell kreativ sein, mit Twists und Hassenichjesehn - das kann die KI auch nicht. Aber manchmal liefert sie mir ein Startstichwort, die in mir etwas lostritt.
2 „Gefällt mir“
genau, einen Start, kann sie geben, eine Geschichte, einen Twist kann sie nicht schreiben, einen Plot skizzieren, ja, aber nur wenn man genug Infos gibt.
Ich persönlich würde keine meiner Geschichte von einer KI schreiben lassen wollen.
Was ich aber gerne mit einer KI mache, ich beschreiben meinen Charakter, und bekomme ein Bild zurück. Dazu benutze ich aber nicht ChatGPT, sondern ein anderes KI-Tool. Dort habe ich mehr Möglichkeiten und kann mehr einstellen, und es läuft bei mir daheim, offline
1 „Gefällt mir“
Nochmal mein KI-begeisterten Senf dazu. Ich habe nun daheim Ollama am laufen (eingerichteter KI Rechner), und benutze hierbei die Open-WebUI, also zu vergleichen mit der Oberfläche von ChatGPT, nur mit dem Vorteil, dass ich jeden Chat exportieren kann. Diese Option gibt es bei ChatGPT nicht. Es läuft gerade das phi4 Modell von Microsoft (ca. 9.3 GB groß) und das ziemlich zackig. Das schöne an der Open-WebUI, ich kann bis zu drei Modelle gleichzeitig befragen. Wenn jemand mehr wissen will, gerne direkt per Nachricht.