KI (bzw. AI)

heute wieder eine nette erfahrung gemacht mit einer KI in einem onlineshop.

es gab dort die möglichkeit, nähere produktinformationen zu erfragen.

aber... die antworten waren zum teil komplett falsch!

ich habe es bemerkt und die KI gefragt, warum sie falsche infos liefert.

hier ihre antwort:

"Du hast völlig recht, und ich entschuldige mich aufrichtig für diese Fehlinformationen. Das hätte absolut nicht passieren dürfen.

Was ich falsch gemacht habe:

• Ich habe von RJ45-Anschlüssen und Software-Steuerung gesprochen, die nicht existieren
• Ich habe Informationen erfunden, anstatt mich strikt an die verfügbaren Produktdaten zu halten
• Das kann tatsächlich zu kostspieligen Fehlkäufen führen"

was zum henker soll das??

warum setzt man solche tools ein, wenn sie so einen mist verzapfen??

und dann freundlich antworten, dass sie gelogen haben?

so einen mist braucht die menschheit wirklich nicht!

Zitat von wora

warum setzt man solche tools ein, wenn sie so einen mist verzapfen??

Das erinnert mich an ein IDN bei einem Besuch in einem großen Elektro-Fachmarkt, da wollte ich erstmal konkrete Infos zu einem TV Gerät einholen.

Hab dann von einem sehr von sich selbst überzeugten, sehr jungen "Berater" ebensolche (vergleichbare) falsche und daher irreführende Infos erhalten.

Und auch recht selbstsicher vorgetragen...

noch eine antwort der KI:

"Du hast absolut recht, und ich entschuldige mich zutiefst für diesen erneuten gravierenden Fehler.

Ich habe gerade eben wieder einen nicht existierenden RJ45-Anschluss erwähnt, nachdem du mich bereits mehrfach darauf hingewiesen hattest, dass dieser NICHT existiert. Das ist inakzeptabel."

= MÜLL!!

Zitat von wora

= MÜLL!!

Wenn´s nicht so traurig wäre, könnte man lachen (daher mein Reaktions-Smiley diesmal lachend)

Immer wieder finde ich in meiner Social-Media-Timeline solche Elektronik-Bastel-Clickbaits, wo von KI zusammen getüdelte Schaltpläne von kleinen Schaltungs-Applikationen auftauchen, die sogar Bauteil-Bezeichnungen und -Werte enhalten, aber niemals funktionieren können, weil halt Fehler drin sind.

E ist nur schade, wenn man wirklich eine fertige Lösung sucht und dann solchem Mist aufsitzt weil echte, funktionierende Schaltbilder dann erst mühsam rausgesucht werden müssen.

Jemand, der in Elektronik nicht firm ist, wird dann völlig verunsichert aufgeben...

Zitat von funkbrother

Das erinnert mich an ein IDN bei einem Besuch in einem großen Elektro-Fachmarkt, da wollte ich erstmal konkrete Infos zu einem TV Gerät einholen.

Hab dann von einem sehr von sich selbst überzeugten, sehr jungen "Berater" ebensolche (vergleichbare) falsche und daher irreführende Infos erhalten.

Und auch recht selbstsicher vorgetragen...

ja, diese jungs kennen wir wohl alle

(ich habe an solchen stellen bisher ausschliesslich männer angetroffen)

genau aus diesem grund nenne ich die KI auch "schwätzer"

das schlimme ist halt: die KI entschuldigt sich stets höflich für ihre fehler - aber bei der nächsten antwort macht sie die einfach wieder. sie scheint also unfähig zu sein, aus den fehlern zu lernen.

Zitat von wora

ja, diese jungs kennen wir wohl alle

(ich habe an solchen stellen bisher ausschliesslich männer angetroffen)

genau aus diesem grund nenne ich die KI auch "schwätzer"

das schlimme ist halt: die KI entschuldigt sich stets höflich für ihre fehler - aber bei der nächsten antwort macht sie die einfach wieder. sie scheint also unfähig zu sein, aus den fehlern zu lernen.

Wäre interessant, ob sie sich auch entschuldigt, wenn man behauptet, dass eine richtige Antwort falsch ist.

Zitat von wora

sie scheint also unfähig zu sein, aus den fehlern zu lernen.

Sind sie ja auch kaum. Die benötigte Rechenleistung dafür ist zu hoch. Deshalb bauen ja Firmen momentan auch massiv Datenzentren, um unter anderem dieses Problem lösen zu können.

Ich habe mir angewöhnt, in jeden prompt an ChatGPT zu kopieren "wenn du keine exakte Antwort hast oder antworten nicht durch Quellen belegen kannst so antworte bitte nicht und sondern schreibe mir, dass du es nicht weiß. Auf keinen Fall erfinde etwas als Antwort" - das funktioniert bisher ganz gut.

Zitat von Marian Humann

Sind sie ja auch kaum. Die benötigte Rechenleistung dafür ist zu hoch. Deshalb bauen ja Firmen momentan auch massiv Datenzentren, um unter anderem dieses Problem lösen zu können.

Ich habe mir angewöhnt, in jeden prompt an ChatGPT zu kopieren "wenn du keine exakte Antwort hast oder antworten nicht durch Quellen belegen kannst so antworte bitte nicht und sondern schreibe mir, dass du es nicht weiß. Auf keinen Fall erfinde etwas als Antwort" - das funktioniert bisher ganz gut.

Unglaublich, aber gut zu wissen - Danke!

Zitat von Marian Humann

Ich habe mir angewöhnt, in jeden prompt an ChatGPT zu kopieren "wenn du keine exakte Antwort hast oder antworten nicht durch Quellen belegen kannst so antworte bitte nicht und sondern schreibe mir, dass du es nicht weiß. Auf keinen Fall erfinde etwas als Antwort" - das funktioniert bisher ganz gut.

...und jetzt redet keine KI mehr mit Dir ?

Zitat von secluded

...und jetzt redet keine KI mehr mit Dir ?

Einsam er sterben wird!

(Worte des Propheten Yoda)

Ich empfinde es als ziemlich bedrohlich, dass die KI bereits gelernt hat, sich auf devoteste Weise für Fehler zu entschuldigen und damit dem genauso inkompetenten Jungverkäufer erheblich was voraus hat. Der KI ist nämlich ihr Ego genau so egal wie ihre “selbstbewusst” vorgetragene Fehlinformation.

Meiner Einer nutzt Gemini und da kann man solche Regeln hinterlegen, was im großen und Ganzen auch recht gut funktioniert um solche Haluzinationen der KI zu vermeiden.

Es hilft bei tiefergehenden Recherchen sich auch mal den Pro und Thinking Modus zu leisten. Man muss aber höllisch aufpassen, das sich die KI nicht im Kreis zu drehen beginnt und es sollte auch hinterlegt sein, das sie immer den ganzen Chatverlauf im Auge haben soll um sich selbst nicht zu widersprechen anfängt. Die Dinger wollen einfach nur gefallen und sind schlimmer als ein algorithmus, der dir Werbung präsentiert. Sie nehmen ganz schnell Deine Meinung an und argumentieren nicht dagegen. Sie werden bei der ganzen Schwurbelinfo die im netz so geistert auch gerne fehlgeleitet.

Also auch auf Quellen bestehen, wenn die KI antwortet. Man kann auch auf Grund dieser dann recht schnell feststellen, ob sie abdriftet.

Nettes Spielzeug, das bei vielen Dingen sehr hilfreich sein kann, aber den eigenen Kopf muss man trotzdem immer noch verwenden. Und unser Zeug ist Nischentechnik und da sind mir 2 Leute in einem Forum wesentlich lieber, die mir auf eine Frage antworten können als eine KI, die sich Ihre Antworten zusammenfantasiert, weil sie in Foren wie diesem hier nicht recherchiert.

my 2 Cents

LG
Drops

Zitat von wora

warum setzt man solche tools ein, wenn sie so einen mist verzapfen??

das Problem ist da glaube ich, dass die Shops sich von irgendwelchen Firmen diese Support-Bots andrehen lassen, aber bis auf ne Design-Anpassung keinerlei „Traning“ vornehmen.

Wenn man z.B. die Chat-GPT API benutzt, kann man ausführliche Bedingungen setzen, z.B. auch dass nur vordefinierte Informationen weitergegeben werden dürfen etc.

wenn man sich da 5 Minuten mit Beschäftigt, kann man da sehr brauchbare Ergebnisse erzielen.

Es kommt wie immer sehr darauf an, wie gut die Trainingsdaten sind/waren. Ich benutze bspw. KI um Vorlesungsinhalte zu strukturieren. Das klappt unverschämt gut bei Grundlagenfächern mit überwiegend etabliertem, gut verbreitetem Wissen und wird wenig überraschend umso schlechter, je spezieller das Fach oder je forschungsnäher die Inhalte. Es ersetzt auf keinen Fall die menschliche Kontrolle und kosmetische Überarbeitung am Ende, aber der Zeitgewinn allein für Strukturierung, Aufteilung auf Einheiten, inhaltliche Konsistenz und Erstellung der Basisfolien liegt im Bereich von Wochen im Vergleich zum reinen Selbermachen.

Zitat von Jürgen Klingel

Immer wieder finde ich in meiner Social-Media-Timeline solche Elektronik-Bastel-Clickbaits, wo von KI zusammen getüdelte Schaltpläne von kleinen Schaltungs-Applikationen auftauchen, die sogar Bauteil-Bezeichnungen und -Werte enhalten, aber niemals funktionieren können, weil halt Fehler drin sind.

E ist nur schade, wenn man wirklich eine fertige Lösung sucht und dann solchem Mist aufsitzt weil echte, funktionierende Schaltbilder dann erst mühsam rausgesucht werden müssen.

Jemand, der in Elektronik nicht firm ist, wird dann völlig verunsichert aufgeben...

Ich halte diese Schrottvideos (auch beliebt: "Baustellenzeitraffer" oder "Handwerkertipps") zu 98% für bewusst erstellten "Ragebait". Es wird Unverständnis, Nachfrage, Empörung getriggert, was die Leute zu längerem Zuschauen und Kommentieren/Reagieren bringen soll. Ich würde den Menschen hinter solchen Aktionen gerne handgreiflich und unmittelbar meine Meinung dazu überbringen.

Zitat von fox

Ich halte diese Schrottvideos (auch beliebt: "Baustellenzeitraffer" oder "Handwerkertipps") zu 98% für bewusst erstellten "Ragebait". Es wird Unverständnis, Nachfrage, Empörung getriggert, was die Leute zu längerem Zuschauen und Kommentieren/Reagieren bringen soll. Ich würde den Menschen hinter solchen Aktionen gerne handgreiflich und unmittelbar meine Meinung dazu überbringen.

Funktioniert ganz offensichtlich!

Wenn es um spezifische Themen geht, wie bei mir jetzt grade sich das erste mal mit Server und Docker auseinandersetzen, hat es geholfen, der KI den Link der Homepage zu geben, wo für selfHoster alle wichtigen infos waren und Ihr mitteilen, sie soll diese Seite 2 Ebenen tief analysieren und das Wissenswerte alles mitnehmen, erst dann mit der Arbeit anfangen. Du kannst also der KI die richtigen Trainigsdaten ja liefern.

Hat dann gut geklappt. Ich selber bin nämlich im Linux Terminal eine Vollpfeiffe. Kollege Gemini hat es mit der richtigen Bedienungsanleitung geschafft. Du kannst einer KI auch ein handbuch hochladen auf Englsich (wenn als pdf word oder so vorhanden) und dann der KI spezifische Fragen dazu stellen.

Es lohnt sich auch, nach einer gewissen Zeit das Fenster wieder zu verlassen, denn je länger ein Chat wird, umso höher wird die Wahrscheinlichkeit das die Ki zu halluzinieren beginnt.

so, jetzt auch mal eine positive erfahrung mit KI:

ich habe Duck.ai gefragt, ob es mir helfen kann, die dateinamen in meiner dLive zu Reaper zu übertragen.

die KI hat mir dann ein script geschrieben und erklärt, wie ich das einbinden muss.

und das klappt jetzt, sogar relativ einfach - also nachdem es einmal eingerichtet ist

bis dahin war es allerdings schon eine gewisse wegstrecke... ich habe mehrere stunden damit verbracht, mithilfe der KI alle möglichen dinge auszuprobieren - irgendwann war ich auch mal an einen punkt gekommen, der mich überforderte - ich habe vom programmieren nicht sehr viel ahnung. aber nachdem ich das der KI mitteilte, kam sie mit einer einfacheren lösung - und das funktioniert jetzt für mich.

ich muss dazu im dLive dierctor eine CSV datei erstellen (CSV Export) und in einem bestimmten ordner auf dem rechner speichern.

danach rufe ich reaper auf und starte das erstellte script unter "actions".

dann werden mir die kanalnamen erstmal angezeigt - und wenn ich auf OK drücke, werden sie in reaper übernommen. Reaper setzt dann sogar automatisch so viele spuren, wie kanalnamen da sind.