update
This commit is contained in:
@@ -11,7 +11,6 @@ die Gesamtliste.
|
||||
"""
|
||||
|
||||
import asyncio
|
||||
import json
|
||||
import logging
|
||||
import math
|
||||
import shutil
|
||||
@@ -23,7 +22,7 @@ from config import KONSENS_GRACE, KONSENS_MAX_RUNDEN, DEFAULT_PROVIDER
|
||||
from fsutil import atomic_write_text, atomic_write_json
|
||||
from jsonio import read_json_file as _json_datei
|
||||
from lernen import FRAGETYPEN
|
||||
from paths import arbeit_dir, bausteine_path, frage_muster_path, grafik_path, project_dir, subbausteine_path, quelle_path, quelle_crawl_dir, safe_ordner
|
||||
from paths import arbeit_dir, bausteine_path, frage_muster_path, project_dir, subbausteine_path, quelle_path, quelle_crawl_dir, safe_ordner
|
||||
from crawl import crawl
|
||||
from pipeline import (
|
||||
CANCELLED, FAILED, GenContext, _extra, _log, _prompt, _race, _relevanz_schema, _rest_schema,
|
||||
@@ -54,7 +53,6 @@ BAUSTEINE_STEPS = (
|
||||
"Stufen finden", "Stufen wählen", "Stufen klären",
|
||||
"Relevanz finden", "Relevanz wählen", "Relevanz klären",
|
||||
"Fragen finden", "Fragen wählen", "Fragen klären", "Fragen prüfen",
|
||||
"Grafik finden", "Grafik prüfen",
|
||||
)
|
||||
|
||||
|
||||
@@ -111,19 +109,6 @@ def lade_frage_muster(topic: str, baustein: str) -> list[dict]:
|
||||
]
|
||||
|
||||
|
||||
def lade_grafiken(topic: str) -> dict:
|
||||
"""Alle Baustein-Grafiken eines Themas: {Baustein-Titel: {knoten, kanten, richtung}}.
|
||||
Leere/ungültige Datei → {} (Frontend zeigt Fallback)."""
|
||||
g = _json_datei(grafik_path(topic))
|
||||
return g if isinstance(g, dict) else {}
|
||||
|
||||
|
||||
def lade_grafik(topic: str, baustein: str) -> dict | None:
|
||||
"""Grafik eines Bausteins (None = keine → Fallback)."""
|
||||
g = lade_grafiken(topic).get(baustein)
|
||||
return g if isinstance(g, dict) and g.get("knoten") else None
|
||||
|
||||
|
||||
def lade_uebersicht(topic: str) -> list[dict]:
|
||||
"""Strukturierte Baustein-Liste für die Übersicht: Titel + Beschreibung + Subbausteine/Stufen.
|
||||
|
||||
@@ -164,7 +149,6 @@ def _bausteine_steps(topic: str) -> tuple:
|
||||
"Stufen finden", "Stufen wählen", "Stufen klären",
|
||||
"Relevanz finden", "Relevanz wählen", "Relevanz klären",
|
||||
"Fragen finden", "Fragen wählen", "Fragen klären", "Fragen prüfen",
|
||||
"Grafik finden", "Grafik prüfen",
|
||||
)
|
||||
mitte = base + (("Ergänzung",) if q["type"] == "projekt" else ()) + rest
|
||||
return (("Quelle laden",) if q["type"] == "link" else ()) + mitte
|
||||
@@ -182,7 +166,6 @@ PHASEN = (
|
||||
("Stufen", ("Stufen finden", "Stufen wählen", "Stufen klären")),
|
||||
("Relevanz", ("Relevanz finden", "Relevanz wählen", "Relevanz klären")),
|
||||
("Fragen", ("Fragen finden", "Fragen wählen", "Fragen klären", "Fragen prüfen")),
|
||||
("Grafiken", ("Grafik finden", "Grafik prüfen")),
|
||||
)
|
||||
|
||||
|
||||
@@ -223,19 +206,18 @@ def _bausteine_files(topic: str) -> dict:
|
||||
"sub_roh": arbeit / "subbausteine-roh.json",
|
||||
"sidecar": subbausteine_path(topic),
|
||||
"frage_muster": frage_muster_path(topic),
|
||||
"grafik": grafik_path(topic),
|
||||
}
|
||||
|
||||
|
||||
def _alle_slot_dateien(files: dict) -> list[Path]:
|
||||
arbeit = files["arbeit"]
|
||||
# Subbaustein-/Stufen-Slots sind pro Chunk dynamisch — per Glob einsammeln.
|
||||
dyn = (list(arbeit.glob("subbaustein-*")) + list(arbeit.glob("stufe-*")) + list(arbeit.glob("relevanz-*")) + list(arbeit.glob("frage-muster-*")) + list(arbeit.glob("grafik-*"))) if arbeit.is_dir() else []
|
||||
dyn = (list(arbeit.glob("subbaustein-*")) + list(arbeit.glob("stufe-*")) + list(arbeit.glob("relevanz-*")) + list(arbeit.glob("frage-muster-*"))) if arbeit.is_dir() else []
|
||||
return [
|
||||
*files["recherche"], files["recherche_mapping"],
|
||||
*(p for slots in files["auswahl"].values() for p in slots),
|
||||
*files["mapping"].values(), files["ergaenzung"],
|
||||
files["sub_roh"], files["sidecar"], files["frage_muster"], files["grafik"], *dyn,
|
||||
files["sub_roh"], files["sidecar"], files["frage_muster"], *dyn,
|
||||
]
|
||||
|
||||
|
||||
@@ -275,9 +257,6 @@ def _resume_step(topic: str) -> int:
|
||||
# Relevanz fertig; nur noch Frage-Muster offen?
|
||||
if not _frage_muster_komplett(topic):
|
||||
return _step_idx(topic, "Fragen finden")
|
||||
# Frage-Muster fertig; nur noch Grafiken offen?
|
||||
if not _grafik_komplett(topic):
|
||||
return _step_idx(topic, "Grafik finden")
|
||||
return len(_bausteine_steps(topic))
|
||||
if _sub_roh_schema(_json_datei(files["sub_roh"])) is None:
|
||||
return _step_idx(topic, "Subbausteine finden")
|
||||
@@ -316,7 +295,6 @@ def reset_bausteine(topic: str) -> None:
|
||||
files["final"].unlink(missing_ok=True)
|
||||
files["sidecar"].unlink(missing_ok=True) # liegt im Themen-Root, nicht in arbeit/
|
||||
files["frage_muster"].unlink(missing_ok=True) # ebenfalls im Themen-Root
|
||||
files["grafik"].unlink(missing_ok=True) # ebenfalls im Themen-Root
|
||||
quelle_path(topic).unlink(missing_ok=True)
|
||||
shutil.rmtree(quelle_crawl_dir(topic), ignore_errors=True) # gecrawlte Link-Quelle
|
||||
shutil.rmtree(files["arbeit"], ignore_errors=True)
|
||||
@@ -335,9 +313,6 @@ def _reset_ab_phase(topic: str, phase: int) -> None:
|
||||
for p in arbeit.glob(pat):
|
||||
p.unlink(missing_ok=True)
|
||||
|
||||
if phase <= 6: # Grafiken
|
||||
files["grafik"].unlink(missing_ok=True)
|
||||
glob_del("grafik-*")
|
||||
if phase <= 5: # Fragen
|
||||
files["frage_muster"].unlink(missing_ok=True)
|
||||
glob_del("frage-muster-*")
|
||||
@@ -497,45 +472,6 @@ def _frage_muster_komplett(topic: str) -> bool:
|
||||
return isinstance(_json_datei(frage_muster_path(topic)), dict)
|
||||
|
||||
|
||||
def _grafik_schema(data) -> dict | None:
|
||||
"""{"knoten": [{id, text}], "kanten": [{von, nach, text?}], "richtung"?} → bereinigtes
|
||||
Grafik-Dict · sonst None. Knoten nicht leer, IDs eindeutig, jede Kante referenziert
|
||||
existierende Knoten (sonst verworfen). Leere Knotenliste → None."""
|
||||
if not isinstance(data, dict) or not isinstance(data.get("knoten"), list):
|
||||
return None
|
||||
knoten, ids = [], set()
|
||||
for k in data["knoten"]:
|
||||
if not isinstance(k, dict):
|
||||
return None
|
||||
kid = str(k.get("id", "")).strip()
|
||||
text = str(k.get("text", "")).strip()
|
||||
if not kid or not text or kid in ids:
|
||||
continue
|
||||
ids.add(kid)
|
||||
knoten.append({"id": kid, "text": text})
|
||||
if not knoten:
|
||||
return None
|
||||
kanten = []
|
||||
for e in (data.get("kanten") or []):
|
||||
if not isinstance(e, dict):
|
||||
continue
|
||||
von, nach = str(e.get("von", "")).strip(), str(e.get("nach", "")).strip()
|
||||
if von not in ids or nach not in ids:
|
||||
continue # hängende Kante (halluzinierte ID) verwerfen
|
||||
kante = {"von": von, "nach": nach}
|
||||
if (t := str(e.get("text", "")).strip()):
|
||||
kante["text"] = t
|
||||
kanten.append(kante)
|
||||
richtung = data.get("richtung") if data.get("richtung") in ("TB", "LR") else "TB"
|
||||
return {"richtung": richtung, "knoten": knoten, "kanten": kanten}
|
||||
|
||||
|
||||
def _grafik_komplett(topic: str) -> bool:
|
||||
"""Grafik-Sidecar existiert (Build gelaufen)? Einzelne leere Bausteine fallen im
|
||||
Frontend auf den Fallback-Hinweis zurück — daher genügt die Datei."""
|
||||
return isinstance(_json_datei(grafik_path(topic)), dict)
|
||||
|
||||
|
||||
def _read(p: Path) -> str:
|
||||
return p.read_text(encoding="utf-8") if p.exists() else ""
|
||||
|
||||
@@ -1054,109 +990,6 @@ async def _frage_muster_block(ctx: GenContext, set_p, files: dict, sidecar: dict
|
||||
return ergebnis
|
||||
|
||||
|
||||
async def _grafik_block(ctx: GenContext, set_p, files: dict, sidecar: dict, instructions: str) -> dict | None:
|
||||
"""Block F: zwei Phasen — Finden (1 Generator je Baustein, parallel) erzeugt eine
|
||||
Graph-Grafik (Knoten/Kanten) als JSON, Prüfen (Kritiker je Baustein) fixt Struktur +
|
||||
Inhalt; Bausteine ohne Grafik eine Runde nachholen.
|
||||
→ {Baustein-Titel: {knoten, kanten, richtung}} oder None bei Abbruch."""
|
||||
topic, is_cancelled = ctx.topic, ctx.is_cancelled
|
||||
arbeit = files["arbeit"]
|
||||
beschr = {b["titel"]: b["beschreibung"] for b in lade_uebersicht(topic)}
|
||||
# Je Baustein die relevanten Subbausteine (relevanz != 'rand') als Graph-Grundlage.
|
||||
bausteine = []
|
||||
for titel, subs in sidecar.items():
|
||||
rel = [s["titel"] for s in subs if isinstance(s, dict) and s.get("relevanz") != "rand" and str(s.get("titel", "")).strip()]
|
||||
if rel:
|
||||
bausteine.append((titel, rel))
|
||||
if not bausteine:
|
||||
return {}
|
||||
|
||||
def roh_path(c):
|
||||
return arbeit / f"grafik-c{c}.json"
|
||||
|
||||
def final_path(c):
|
||||
return arbeit / f"grafik-final-c{c}.json"
|
||||
|
||||
# Phase „Grafik finden": pro Baustein 1 Generator, alle parallel.
|
||||
async def _finde(c, titel, rel):
|
||||
fp = roh_path(c)
|
||||
if _grafik_schema(_json_datei(fp)):
|
||||
return # Resume
|
||||
sub_block = "\n".join(f"- {s}" for s in rel)
|
||||
status, _ = await run_single_slot(
|
||||
ctx, f"Grafik {c}",
|
||||
key=f"bausteine-{topic}-grafik-c{c}",
|
||||
prompt=_prompt("Baustein-Grafik", topic=topic, baustein=titel,
|
||||
beschreibung=beschr.get(titel, ""), subbausteine=sub_block,
|
||||
out_path=fp, extra=_extra(instructions)),
|
||||
role="guide", capabilities="files",
|
||||
payload=lambda result, p=fp: _grafik_schema(_json_datei(p)),
|
||||
timeout=_timeout("grafik", len(rel)),
|
||||
)
|
||||
if status == FAILED:
|
||||
_log(topic, f"Grafik Baustein {c} fehlgeschlagen — keine Grafik (Fallback)")
|
||||
|
||||
set_p(f"Grafik finden ({len(bausteine)} Bausteine)…", step=_step_idx(topic, "Grafik finden"))
|
||||
await asyncio.gather(*[_finde(c, t, r) for c, (t, r) in enumerate(bausteine, 1)], return_exceptions=True)
|
||||
if is_cancelled():
|
||||
return None
|
||||
|
||||
# Phase „Grafik prüfen": Kritiker je Baustein fixt Struktur/Inhalt; sonst Roh übernehmen.
|
||||
async def _pruefe(c, titel, rel):
|
||||
roh = _grafik_schema(_json_datei(roh_path(c)))
|
||||
fp = final_path(c)
|
||||
if _grafik_schema(_json_datei(fp)) or not roh:
|
||||
return
|
||||
sub_block = "\n".join(f"- {s}" for s in rel)
|
||||
status, _ = await run_single_slot(
|
||||
ctx, f"Grafik-Prüfung {c}",
|
||||
key=f"bausteine-{topic}-grafik-final-c{c}",
|
||||
prompt=_prompt("Baustein-Grafik-Check", topic=topic, baustein=titel,
|
||||
subbausteine=sub_block,
|
||||
grafik=json.dumps(roh, ensure_ascii=False, indent=1),
|
||||
out_path=fp, extra=_extra(instructions)),
|
||||
role="judge", capabilities="files",
|
||||
payload=lambda result, p=fp: _grafik_schema(_json_datei(p)),
|
||||
timeout=_timeout("grafik_check", len(rel)),
|
||||
)
|
||||
if status == FAILED:
|
||||
_log(topic, f"Grafik-Prüfung Baustein {c} fehlgeschlagen — Roh-Grafik übernommen")
|
||||
|
||||
set_p(f"Grafik prüfen ({len(bausteine)} Bausteine)…", step=_step_idx(topic, "Grafik prüfen"))
|
||||
await asyncio.gather(*[_pruefe(c, t, r) for c, (t, r) in enumerate(bausteine, 1)], return_exceptions=True)
|
||||
if is_cancelled():
|
||||
return None
|
||||
|
||||
def _finalisiere(c):
|
||||
return _grafik_schema(_json_datei(final_path(c))) or _grafik_schema(_json_datei(roh_path(c)))
|
||||
|
||||
ergebnis = {}
|
||||
for c, (titel, rel) in enumerate(bausteine, 1):
|
||||
if (g := _finalisiere(c)):
|
||||
ergebnis[titel] = g
|
||||
|
||||
# Bausteine ohne Grafik eine Runde nachholen.
|
||||
leer = [(c, t, r) for c, (t, r) in enumerate(bausteine, 1) if t not in ergebnis]
|
||||
if leer:
|
||||
_log(topic, f"Grafik: {len(leer)} Baustein(e) ohne Grafik — Nachrunde")
|
||||
for c, t, r in leer:
|
||||
roh_path(c).unlink(missing_ok=True)
|
||||
final_path(c).unlink(missing_ok=True)
|
||||
await asyncio.gather(*[_finde(c, t, r) for c, t, r in leer], return_exceptions=True)
|
||||
if is_cancelled():
|
||||
return None
|
||||
await asyncio.gather(*[_pruefe(c, t, r) for c, t, r in leer], return_exceptions=True)
|
||||
if is_cancelled():
|
||||
return None
|
||||
for c, t, r in leer:
|
||||
if (g := _finalisiere(c)):
|
||||
ergebnis[t] = g
|
||||
rest = [t for c, t, r in leer if t not in ergebnis]
|
||||
if rest:
|
||||
_log(topic, f"Grafik: {len(rest)} Baustein(e) bleiben leer (Fallback): {rest[:5]}")
|
||||
return ergebnis
|
||||
|
||||
|
||||
async def generate_bausteine(topic: str, instructions: str = "", provider: str = DEFAULT_PROVIDER, ab_phase: int | None = None) -> None:
|
||||
if topic in _bausteine_progress:
|
||||
return
|
||||
@@ -1453,19 +1286,6 @@ async def generate_bausteine(topic: str, instructions: str = "", provider: str =
|
||||
if muster is None:
|
||||
return # Abbruch
|
||||
atomic_write_json(files["frage_muster"], muster, indent=1)
|
||||
|
||||
# Block F: pro Baustein eine Graph-Grafik (Knoten/Kanten) der relevanten
|
||||
# Subbausteine → eigenes Sidecar. Von allen Guide-Formaten geteilt; das
|
||||
# Frontend rendert sie mit Auto-Layout (dagre) + KaTeX.
|
||||
sidecar = _json_datei(files["sidecar"])
|
||||
if _sidecar_schema(sidecar) is not None and _relevanz_komplett(sidecar) and _frage_muster_komplett(topic) and not _grafik_komplett(topic):
|
||||
grafik = await _grafik_block(ctx, set_p, files, sidecar, instructions)
|
||||
if is_cancelled():
|
||||
abgebrochen()
|
||||
return
|
||||
if grafik is None:
|
||||
return # Abbruch
|
||||
atomic_write_json(files["grafik"], grafik, indent=1)
|
||||
except Exception as e:
|
||||
log.exception("[%s] Bausteine-Generierung fehlgeschlagen", topic)
|
||||
_bausteine_errors[topic] = str(e)[:2000]
|
||||
|
||||
Reference in New Issue
Block a user