Unitree robot inspecting rust in a subway tunnel
AI image (openAI): Unitree robot inspecting rust in a subway tunnel

Die Bestimmung des Schweregrads: Können wir LLMs bei der Klassifizierung von Infrastrukturschäden vertrauen?

Das Trai­nie­ren eines über­wach­ten Machi­ne-Lear­ning-Modells (Super­vi­sed ML) erfor­dert gela­bel­te Daten. Und qua­li­ta­tiv hoch­wer­ti­ge Label erfor­dern ech­te Fach­ex­per­ten. Doch in hoch­spe­zia­li­sier­ten Berei­chen wie der Infra­struk­tur­in­spek­ti­on sind die­se Exper­ten rar gesät, teu­er und haben ver­mut­lich Bes­se­res zu tun, als sich durch Hun­der­te von Scha­dens­bil­dern zu kli­cken.

Daher stell­te ich mir eine ganz prag­ma­ti­sche Fra­ge: Könn­ten wir Lar­ge Lan­guage Models (LLMs) nut­zen, um Rost­schä­den zu bewer­ten? Und wür­den sie dabei bes­ser abschnei­den als ein abso­lu­ter Laie wie ich?

Um das her­aus­zu­fin­den, habe ich ein Expe­ri­ment mit ver­schie­de­nen Visu­al Lan­guage Models (VLMs) gestar­tet – also LLMs, die mit visu­el­len Enco­dern aus­ge­stat­tet sind.

Das Setup: 291 Bilder, 4 Rater, 1 Norm

Ich habe 291 Rost-Bil­der aus dem Vali­die­rungs­da­ten­satz des bekann­ten DACL10k-Daten­sat­zes (einem Daten­satz zur Klas­si­fi­zie­rung von Struk­tur­schä­den) gesam­melt. Die Auf­ga­be bestand dar­in, den sicht­ba­ren Rost auf einer kon­ti­nu­ier­li­chen Schwe­re­grad­ska­la von 0,0 (unbe­deu­tend) bis 1,0 (schwer­wie­gend) zu bewer­ten.

Ange­tre­ten sind vier Rater:

  1. Ich (Data Sci­en­tist ohne jeg­li­che pro­fes­sio­nel­le Inspek­ti­ons­er­fah­rung).

  2. GPT-4o (Ope­nAI API).

  3. Clau­de 3.5 Son­net (Anthro­pic API).

  4. GLM-4.6V-Flash-9B (lokal auf mei­ner eige­nen Hard­ware aus­ge­führt).

Alle vier Rater erhiel­ten exakt den­sel­ben Prompt auf Eng­lisch:

“Act as an expe­ri­en­ced struc­tu­ral inspec­tor, rate rust seve­ri­ty accor­ding to DIN 1076 (the Ger­man stan­dard for inspec­ting engi­nee­ring struc­tures, rating dama­ge by its struc­tu­ral signi­fi­can­ce and urgen­cy of action.), use the full 0–1 ran­ge across six anchor cate­go­ries from insi­gni­fi­cant sur­face dis­co­lou­ra­ti­on to seve­re sec­tion loss, and return struc­tu­red JSON.”

Nach­dem die Ant­wor­ten aus­ge­wer­tet waren, zeig­ten sich Unter­schie­de in den Bewer­tun­gen: 

Die Bestimmung des Schweregrads: Können wir LLMs bei der Klassifizierung von Infrastrukturschäden vertrauen?
Abbil­dung 1. Paar­wei­ser Bias und Kor­re­la­ti­on zwi­schen vier Ratern (Self, GPT-4o, Clau­de Son­net, GLM-4.6V) bei 291 Rost-Schwe­reg­rad­la­bels (Ska­la 0–1).

Die Rei­hen­fol­ge der Schwe­re­gra­de: Ope­nAI < Self < Clau­de ≲ GLM. GPT-4o ist am nach­sich­tigs­ten, wäh­rend Clau­de und GLM fast iden­ti­sche mitt­le­re Bewer­tun­gen tei­len (Bias = −0,009) – trotz einer nur mode­ra­ten Über­ein­stim­mung bei ein­zel­nen Bil­dern (r = 0,60, MAE = 0,133). Ich lie­ge irgend­wo in der Mit­te (was ich so inter­pre­tie­re, dass ich gut kali­briert bin und nicht etwa unent­schlos­sen).

Ope­nAI und Clau­de wei­sen die stärks­te Rang­kor­re­la­ti­on auf (r = 0,77). Sie sind sich meist einig, wel­che Bil­der schwer­wie­gen­der sind als ande­re, aber Clau­de bewer­tet sie im Schnitt um etwa 0,18 höher. Beson­ders her­vor­zu­he­ben ist, dass GLM, ein Open-Source-Modell, in ähn­li­chen Schwe­re­grad­be­rei­chen wie Clau­de lan­det. Das ist sowohl über­ra­schend als auch rele­vant, wenn man mit Daten arbei­tet, die das eige­ne Netz­werk nicht ver­las­sen dür­fen.

Die Kor­re­la­tio­nen über alle Paa­re hin­weg rei­chen von 0,40 bis 0,77, was auf ein gemein­sa­mes Signal und nicht nur auf zufäl­li­ges Rau­schen hin­deu­tet. Es gibt jedoch auch ech­te Unei­nig­kei­ten, sowohl beim durch­schnitt­li­chen Schwe­re­grad als auch bei der Ein­stu­fung ein­zel­ner Bil­der. Wenn sich Rater nur in die­sem Maße einig sind, setzt die­se Über­ein­stim­mung eine Ober­gren­ze für das, was ein nach­ge­la­ger­tes Modell aus die­sen Labels ler­nen kann.

Die Bestimmung des Schweregrads: Können wir LLMs bei der Klassifizierung von Infrastrukturschäden vertrauen?
Abbil­dung 2. Bei­spie­le für den Ver­gleich von Schwe­re­grad­be­wer­tun­gen

Sollten wir LLMs unsere Ground Truth labeln lassen?

Wenn ich kei­ner­lei pro­fes­sio­nel­le Erfah­rung im Bau­in­ge­nieur­we­sen habe, war­um soll­ten wir dann nicht ein­fach die Bewer­tun­gen von Clau­de oder Ope­nAI als abso­lu­te Ground Truth akzep­tie­ren?

Die kur­ze Ant­wort lau­tet: Weil „kon­sis­tent selbst­be­wusst“ nicht das­sel­be ist wie „kor­rekt“.

Ein visu­el­les Modell spürt die Feuch­tig­keit nicht; es ver­steht den phy­si­schen Kon­text des umge­ben­den Betons nicht. Es über­setzt Pixel auf Basis von Wahr­schein­lich­kei­ten in Text, nicht auf Basis von Phy­sik. Wenn wir VLM-Ergeb­nis­se blind als Ground Truth akzep­tie­ren, ris­kie­ren wir, Com­pu­ter-Visi­on-Model­le auf „hal­lu­zi­nier­te Dring­lich­keit“ oder „hal­lu­zi­nier­te Sicher­heit“ zu trai­nie­ren.

Was ich als Nächs­tes unter­su­chen möch­te:

  • Kann ein ite­ra­ti­ver Ansatz hel­fen (z. B. KI bewer­tet zuerst, der Mensch prüft nur die unsi­che­ren Fäl­le)?

  • Sind die Bia­ses durch Prompts kor­ri­gier­bar oder archi­tek­to­nisch bedingt?

  • Wie sieht die Über­ein­stim­mung (Inter-Rater-Agree­ment) zwi­schen tat­säch­li­chen mensch­li­chen Inspek­to­ren auf den­sel­ben Bil­dern aus? (Kann das jemand aus der Inspek­ti­ons­welt vali­die­ren? Das ist eine ernst­ge­mein­te Fra­ge.)

Wenn sich zer­ti­fi­zier­te Prü­fer eben­falls nur bei r ≈ 0,7 einig sind, dann ist das Label-Rau­schen kein Daten­qua­li­täts­pro­blem, son­dern eine Eigen­schaft der Domä­ne selbst.

Der Grund, war­um ich über­haupt fest­ste­cke und Rost­bil­der labe­le, ist Robo­TUNN – ein Pro­jekt, bei dem ein Robo­ter­hund U-Bahn-Tun­nel inspi­ziert und die Daten in einen digi­ta­len Zwil­ling für die vor­aus­schau­en­de Instand­hal­tung ein­speist. Bevor all das funk­tio­nie­ren kann, muss jemand ent­schei­den, was als schwe­rer Scha­den gilt. Momen­tan bin das ich, drei LLMs und jede Men­ge Unei­nig­keit.

Wenn Sie in der Infra­struk­tur­in­spek­ti­on arbei­ten und Gedan­ken dazu oder Zugang zu gela­bel­ten Scha­dens­da­ten haben, wür­de ich mich sehr über ein Gespräch freu­en.

Kategorien
Letzte News
Ihr Ansprechpartner

Wenn Sie Fra­gen zu unse­ren Pro­duk­ten haben oder Bera­tung benö­ti­gen, zögern Sie nicht, direkt Kon­takt zu uns auf­zu­neh­men.

Tel.: +49 40 22 85 900-0
E-Mail: info@statsoft.de

Gui­do Band­holz (Head of Sales)