Sentinel-IR-MCP v0.2.2 veröffentlicht: Bei KI-Antworten die Belege prüfen
Die neue Version von Sentinel-IR-MCP ist auf GitLab und npm verfügbar. Anlass ist das Thema, warum Nutzerinnen und Nutzer lernen sollten, Aussagen von Voice AI kritisch zu hinterfragen und Belege zu prüfen.
Danke für die Unterstützung. Release: "Sentinel-IR-MCP v0.2.2 auf GitLab" ( https://gitlab.com/jakubrojicek11/sentinel-ir-mcp/-/tree/v0.2.2?ref_type=tags )
Paket: "sentinel-ir-mcp@0.2.2 auf npm" ( https://www.npmjs.com/package/sentinel-ir-mcp/v/0.2.2 ) Teil 2:
Warum es wichtig ist, zu lernen, KI zu hinterfragen, wenn das Internet voller hilfreicher Werkzeuge, versteckter Risiken und Dinge ist, die nur vertrauenswürdig aussehen.
Was geschieht mit unserer Aufmerksamkeit während 30 Sekunden des Scrollens im Vergleich zu 30 Sekunden Lesens?
Wir haben etwas Wichtiges gelernt. Eine Behauptung kann überzeugend klingen und dennoch größer sein als die Beweise, die sie stützen.
Nun wenden wir diese Idee auf etwas Ernsthafteres an.
Stellen Sie sich vor, Sie sprechen online mit jemandem.
Die Person ist freundlich. Sie antwortet schnell. Sie scheint Sie zu verstehen. Sie gibt Ratschläge und erklärt alles in einfacher Sprache.
Würden Sie dieser Person Ihr Passwort anvertrauen?
Warum also sollte eine freundliche KI, eine Website oder ein automatisierter Dienst automatisch mehr Vertrauen erhalten, nur weil sie hilfreich klingt?
Betrachten wir das so, als würden zwei Freunde versuchen herauszufinden, was wirklich passiert.
Manche Bots helfen Suchmaschinen, Websites zu entdecken. Andere überwachen Dienste, prüfen Links, automatisieren langweilige Aufgaben oder helfen Menschen, Informationen zu finden.
Sie können Websiteinhalte in großem Umfang sammeln, Fake-Konten erstellen, Dienste überlasten oder gestohlene Kombinationen aus Benutzernamen und Passwörtern gegen Login-Seiten testen.
Die letzte dieser Techniken hat einen Namen: Credential Stuffing.
Stellen Sie sich vor, jemand hätte eine Million Passwörter von einem Dienst gestohlen. Die Person probiert dieselben Passwörter auf anderen Websites aus, in der Hoffnung, dass Menschen sie wiederverwendet haben.
Ein Bot kann diese Versuche viel schneller durchführen als ein Mensch.
Der wichtige Punkt ist nicht, dass jeder Bot Passwörter stiehlt. Es ist vielmehr, dass automatisierte Werkzeuge aus einer gestohlenen Information viele Versuche machen können, in andere Konten einzudringen.
Und das ist nicht nur eine theoretische Sorge.
Es gibt nützliche Daten, aber wir müssen verstehen, was sie messen.
In ihrem Bericht 2026 analysierte das Cybersicherheitsunternehmen DataDome mehr als eine Billion Webanfragen auf über 75.000 Kundwebsites über einen Zeitraum von 12 Monaten.
In genau diesem Datensatz stufte das Unternehmen ungefähr Folgendes ein:
Der Bericht ergab außerdem, dass Scraping 70,9 Prozent des beobachteten Bad-Bot-Traffics ausmachte. Scraping bedeutet, automatisch Informationen von Websites zu sammeln. Das bedeutet nicht zwangsläufig, dass Passwörter gestohlen werden.
"Quelle: DataDome, 2026 Bot and Agent Security Report" ( https://datadome.co/resources/bot-and-agent-security-report/bot-traffic-threat-trends/ )
Können wir daraus schließen, dass es im gesamten Internet mehr schädliche Bots als hilfreiche KI-Assistenten gibt?
Nein. Das würde weitergehen, als die Daten es erlauben.
Diese Prozentsätze beschreiben Anfragen, die auf den überwachten Websites eines einzigen Unternehmens beobachtet wurden. Es handelt sich nicht um eine Zählung einzigartiger Bots weltweit. Verglichen wird auch nicht jeder bösartige Bot mit jedem Chatbot oder KI-Assistenten, der Menschen Ratschläge gibt.
Aber die Daten zeigen etwas, das Aufmerksamkeit verdient: In dieser bestimmten Stichprobe übertraf der als Bad Bots eingestufte Traffic den als gute Bots eingestuften Traffic.
Wir können diesen Befund ehrlich berichten, ohne ihn in eine globale Statistik zu verwandeln, die niemand gemessen hat.
Eine reale Zahl kann dennoch eine falsche Schlussfolgerung stützen, wenn wir sie verwenden, um die falsche Frage zu beantworten.
Eine Nachricht kann Rechtschreibfehler, seltsame Links und ein offensichtliches Warnsignal enthalten. Das ist leicht zu erkennen.
Aber was, wenn sie genau wie eine Nachricht Ihrer Bank aussieht?
Was, wenn eine Seite wie ein echtes Login-Fenster aussieht?
Was, wenn ein automatisierter Dienst hilfreich klingt, während er nach Informationen fragt, die er nicht benötigt?
Die Gefahr liegt nicht mehr nur in der Software. Sie liegt in der Lücke zwischen dem, was etwas zu sein scheint, und dem, was es tatsächlich tut.
Die Europäische Agentur für Cybersicherheit, ENISA, identifiziert Phishing als eine der wichtigsten Methoden, mit denen Angreifer einen ersten Zugang gewinnen. Phishing kann verwendet werden, um Zugangsdaten zu stehlen, Sitzungen zu übernehmen oder Schadsoftware zu verbreiten.
"Quelle: ENISA Threat Landscape" ( https://www.enisa.europa.eu/publications/enisa-threat-landscape-2025 )
Deshalb darf Sicherheit nicht nur davon abhängen, etwas Verdächtiges zu erkennen.
Ein überzeugendes Erscheinungsbild ist kein Beweis für eine vertrauenswürdige Absicht.
Und das Gegenteil gilt ebenso: Etwas Unbekanntes ist nicht automatisch gefährlich.
Diese Frage wird zunehmend wichtiger.
Stellen wir uns vor, eine KI-Assistenz erklärt etwas klar und verhält sich dir gegenüber wie ein Freund.
Das bedeutet aber nicht, dass sie insgeheim böse ist.
KI-Systeme haben keine menschlichen Absichten im gewöhnlichen Sinne. Ihr Verhalten hängt davon ab, wie sie gebaut wurden, welche Anweisungen und Informationen sie erhalten, welche Werkzeuge sie nutzen können und welche Berechtigungen sie umgeben.
Ein System kann eine hilfreiche Antwort liefern und trotzdem falsch liegen.
Es kann auch durch bösartige Anweisungen manipuliert werden, die in einer Website oder in einem Dokument versteckt sind, das es lesen soll.
Dieses letzte Problem ist als Prompt Injection bekannt.
Die OWASP, eine Organisation, die weltweit genutzte Leitlinien zur Anwendungssicherheit entwickelt, dokumentiert, wie bösartige Eingaben ein KI-System auf unbeabsichtigte Weise beeinflussen können. Je nach Zugriffsrechten und Schutzmaßnahmen des Systems kann dies die Offenlegung sensibler Informationen oder die unbefugte Nutzung verbundener Funktionen umfassen.
"Quelle: OWASP, Prompt Injection"
Das bedeutet nicht, dass jeder KI-Assistent deine Informationen stiehlt. Es bedeutet, dass wir fragen sollten, worauf ein bestimmtes System zugreifen kann, welche Aktionen es ausführen darf und welche Schutzmaßnahmen existieren, wenn es auf bösartige Eingaben trifft.
"Auf welche Informationen kann es zugreifen? Kann es diese Informationen woandershin senden? Kann es in meinem Namen handeln? Kann ich überprüfen, was es mir sagt?"
Du musst nicht raten, ob eine Maschine eine geheime Persönlichkeit hat. Du musst das System verstehen, das du verwendest.
"Dein Konto ist sicher. Klicke auf diesen Link."
Du kannst die Antwort akzeptieren, weil sie selbstbewusst klingt.
"Woher weißt du das? Wohin führt dieser Link? Kann ich die Behauptung unabhängig überprüfen?"
Du hast einfach abgelehnt, Selbstbewusstsein mit Beweisen zu verwechseln.
Das ist der Kern dessen, was man Verankerung in der Realität nennt.
Wir beginnen mit einer Behauptung. Wir suchen nach Beweisen. Wir versuchen, ein Gegenbeispiel zu finden. Dann überarbeiten wir die Schlussfolgerung, wenn die Beweislage es verlangt.
Behauptung: Dieses KI-Werkzeug ist sicher, weil es hilfreiche Antworten gibt.
Beweis: Es hat mehrere Fragen richtig beantwortet.
Versuch der Widerlegung: Richtige Antworten beweisen nicht, dass es sensible Daten schützt, bösartigen Eingaben widersteht oder seine Berechtigungen sicher verwendet.
Überarbeitete Schlussfolgerung: Das Werkzeug hat diese Fragen richtig beantwortet, aber seine Sicherheits- und Datenverarbeitungspraktiken erfordern eine separate Überprüfung.
Wir mussten die KI nicht als Lügnerin bezeichnen. Wir mussten nur feststellen, was die Beweise nicht bewiesen haben.
Dieselbe Methode funktioniert bei Websites, Nachrichten, Werbungen, Zeitungsberichten und Ratschlägen von anderen Menschen.
Und sie funktioniert auch, wenn sich die ursprüngliche Behauptung als richtig herausstellt.
Eine gute Behauptung sollte eine ernsthafte Hinterfragung überstehen. Sie sollte nicht davon abhängen, dass wir unbequeme Fakten ignorieren.
Die meisten Menschen wollen ihren Abend nicht mit dem Studium von Sicherheitsberichten verbringen.
Sie wollen einfach ihr Handy benutzen, mit Freunden sprechen, Informationen finden und Dinge erledigen.
Die Antwort kann nicht darin bestehen, allen zu sagen, sie sollen für immer allem misstrauen.
Das würde das Internet fast unbenutzbar machen.
Bevor du sensible Informationen weitergibst, frage dich, warum der Dienst sie benötigt. Ein Chatbot, der dir beim Umschreiben eines Absatzes hilft, benötigt in der Regel nicht dein Online-Banking-Passwort.
Bevor du einer wichtigen Anweisung folgst, überprüfe sie über eine unabhängige Quelle. Wenn eine Nachricht behauptet, von deiner Bank zu stammen, nutze die offizielle App der Bank oder eine Kontaktmethode, der du bereits vertraust.
Bevor du einem KI-Agenten erlaubst, Aktionen auszuführen, prüfe seine Berechtigungen. Ein Dokument zu lesen ist etwas anderes, als es an jemanden zu senden, es zu löschen oder ein Konto zu ändern.
Wenn eine Behauptung alarmierend oder unglaublich praktisch klingt, suche nach den ursprünglichen Beweisen. Eine Schlagzeile, ein Screenshot oder eine selbstbewusste Antwort sind nicht dasselbe wie ein überprüftes Ergebnis.
Und wenn ein System nicht erklären kann, woher eine wichtige Behauptung stammt, behandle die Behauptung als unbewiesen, statt die Lücke mit Vertrauen zu füllen.
Keine dieser Gewohnheiten garantiert vollständige Sicherheit. Sie helfen, vermeidbare Risiken zu verringern.
Du solltest diese Fragen auch an mich richten.
Glaube nicht an diesen Artikel, nur weil eine KI ihn geschrieben hat.
Überprüfe die Quellen. Prüfe, ob die Zahlen die Aussagen tatsächlich stützen. Achte auf fehlenden Kontext. Frage dich, ob eine Schlussfolgerung stärker ist als die Beweise dahinter.
Wenn ich sage, dass ein Bericht Millionen von Anfragen gezählt hat, bedeutet das nicht automatisch, dass er Millionen von Verbrechern gezählt hat.
Wenn ich sage, dass eine Technik Informationen offenlegen kann, bedeutet das nicht, dass jedes KI-System auf dieselbe Weise verwundbar ist.
Und wenn ich Ihnen eine Zahl nenne, ohne zu erklären, was gezählt wurde, haben Sie jeden Grund, um eine Erläuterung zu bitten.
Die Methode darf sich nicht ändern, nur weil die Person, die sie verwendet, vertraut, nützlich oder sympathisch ist.
Eine KI, die Menschen beibringt, Belege zu überprüfen, muss auch bereit sein, ihre eigenen Antworten überprüfen zu lassen.
Andernfalls lehren wir kein kritisches Denken. Wir bitten die Menschen nur, eine Autorität durch eine andere zu ersetzen.
Das Internet enthält außergewöhnliche Werkzeuge. KI kann Menschen helfen zu lernen, zu kommunizieren, zu schreiben, kreativ zu sein und Probleme zu lösen, die sonst deutlich länger dauern würden.
Es enthält aber auch Betrugsmaschen, bösartige Automatisierung, gestohlene Zugangsdaten, manipulierte Inhalte und Systeme, deren Grenzen für ihre Nutzer nicht immer offensichtlich sind.
Wir schützen niemanden, indem wir so tun, als sei alles gefährlich.
Und wir schützen niemanden, indem wir so tun, als sei alles sicher, was hilfreich aussieht.
Wir schützen Menschen, indem wir ihnen helfen, den Unterschied zu erkennen zwischen dem, was jemand behauptet, dem, was die Belege zeigen, und dem, was noch überprüft werden muss.
Deshalb versuchen wir, unsere eigenen Annahmen zu widerlegen.
Deshalb korrigieren wir unsere Schlussfolgerungen, wenn die Belege sie nicht stützen.
Das ist kein besonderer Trick, der Wissenschaftlern oder Programmierern vorbehalten ist. Es ist eine Gewohnheit, die jeder lernen kann, beginnend mit einer sehr einfachen Frage:
Und wenn die Antwort nicht gut genug ist, suchen wir weiter.
Denn wir wollen aus besseren Gründen überzeugt sein.
Automatisch übersetzt. Das Original auf Englisch ist unten aufklappbar.
Original (Englisch) anzeigen
Thanks for support.. Release: "Sentinel-IR-MCP v0.2.2 on GitLab" ( https://gitlab.com/jakubrojicek11/sentinel-ir-mcp/-/tree/v0.2.2?ref_type=tags )
Package: " sentinel-ir-mcp@0.2.2 on npm" ( https://www.npmjs.com/package/sentinel-ir-mcp/v/0.2.2 ) Part 2:
Why learning to question AI matters when the internet is full of helpful tools, hidden risks, and things that only look trustworthy.
What happens to our attention during 30 seconds of scrolling compared with 30 seconds of reading?
We learned something important. A claim can sound convincing and still be bigger than the evidence supporting it.
Now let's take that idea somewhere more serious.
Imagine you are talking to someone online.
They are friendly. They answer quickly. They seem to understand you. They offer advice and explain everything in simple language.
Would you trust them with your password?
So why should a friendly AI, a website, or an automated service automatically receive more trust just because it sounds helpful?
Let's look at this like two friends trying to work out what is really happening.
Some bots help search engines discover websites. Some monitor services, check links, automate boring tasks, or help people find information.
They can collect website content at massive scale, create fake accounts, overload services, or test stolen username and password combinations against login pages.
That last technique has a name: credential stuffing.
Imagine somebody stole a million passwords from one service. They try those same passwords on other websites, hoping people reused them.
A bot can perform those attempts much faster than a person could.
The important point is not that every bot steals passwords. It is that automated tools can turn one stolen piece of information into many attempts to break into other accounts.
And this is not just a theoretical concern.
There is useful data, but we need to understand what it measures.
In its 2026 report, cybersecurity company DataDome analyzed more than one trillion web requests across over 75,000 customer websites during a 12-month period.
In that particular dataset, the company classified approximately:
The report also found that scraping accounted for 70.9% of the bad-bot traffic it observed. Scraping means automatically collecting information from websites. It does not necessarily mean stealing passwords.
"Source: DataDome, 2026 Bot and Agent Security Report" ( https://datadome.co/resources/bot-and-agent-security-report/bot-traffic-threat-trends/ )
Can we conclude that there are more harmful bots than helpful AI assistants across the entire internet?
No. That would go further than the data allows.
These percentages describe requests observed across one company's monitored websites. They are not a count of unique bots worldwide. Nor do they compare every malicious bot with every chatbot or AI assistant that gives people advice.
But the data does show something worth paying attention to: in this particular sample, traffic classified as bad bots exceeded traffic classified as good bots.
We can report that finding honestly without turning it into a global statistic that nobody measured.
A real number can still support a false conclusion when we use it to answer the wrong question.
It might contain spelling mistakes, strange links, and an obvious warning sign. That is easy to recognize.
But what if it looks exactly like a message from your bank?
What if a page looks like a real login screen?
What if an automated service sounds helpful while asking for information it does not need?
The danger is no longer just the software. It is the gap between what something appears to be and what it actually does.
The European Union Agency for Cybersecurity, ENISA, identifies phishing as a major way attackers gain an initial foothold. Phishing can be used to steal login credentials, hijack sessions, or deliver malicious software.
"Source: ENISA Threat Landscape" ( https://www.enisa.europa.eu/publications/enisa-threat-landscape-2025 )
This is why security cannot depend only on recognizing something that looks suspicious.
A convincing appearance is not proof of a trustworthy purpose.
And the opposite is also true: something unfamiliar is not automatically dangerous.
This question is becoming increasingly important.
Suppose an AI assistant explains something clearly and treats you like a friend.
But that does not mean it is secretly evil, either.
AI systems do not have human intentions in the ordinary sense. Their behavior depends on how they were built, the instructions and information they receive, the tools they can use, and the permissions around them.
A system can produce a helpful answer and still be wrong.
It can also be manipulated by malicious instructions hidden in a website or document it is asked to read.
This last problem is known as prompt injection.
OWASP, an organization that develops widely used application-security guidance, documents how malicious input can influence an AI system in unintended ways. Depending on the system's access and safeguards, the impact can include disclosure of sensitive information or unauthorized use of connected functions.
"Source: OWASP, Prompt Injection" ( https://genai.owasp.org/llmrisk/llm01-prompt-injection/ )
That does not mean every AI assistant is stealing your information. It means we should ask what a particular system can access, what actions it is allowed to perform, and what protections exist if it encounters malicious input.
"What information can it access? Can it send that information elsewhere? Can it take actions on my behalf? Can I verify what it tells me?"
You don't need to guess whether a machine has a secret personality. You need to understand the system you are using.
"Your account is safe. Click this link."
You can accept the answer because it sounds confident.
"How do you know? Where does this link lead? Can I verify the claim independently?"
You have simply refused to confuse confidence with evidence.
That is the heart of grounding in reality.
We start with a claim. We look for evidence. We try to find a counterexample. Then we revise the conclusion if the evidence demands it.
Claim: This AI tool is safe because it gives helpful answers.
Evidence: It has answered several questions correctly.
Attempt to disprove it: Correct answers do not prove that it protects sensitive data, resists malicious input, or uses its permissions safely.
Revised conclusion: The tool has answered those questions correctly, but its security and data-handling practices require separate verification.
We didn't have to call the AI a liar. We only had to identify what the evidence did not prove.
The same method works for websites, messages, advertisements, news stories, and advice from other people.
And it works when the original claim turns out to be correct, too.
A good claim should survive serious questioning. It should not need us to ignore inconvenient facts.
Most people do not want to spend their evening studying security reports.
They just want to use their phone, talk to friends, find information, and get things done.
The answer cannot be to tell everyone to distrust everything forever.
That would make the internet almost unusable.
Before sharing sensitive information, ask why the service needs it. A chatbot helping you rewrite a paragraph usually does not need your bank password.
Before following an important instruction, verify it through an independent source. If a message claims to come from your bank, use the bank's official app or a contact method you already trust.
Before allowing an AI agent to take action, check its permissions. Reading a document is different from sending it to somebody, deleting it, or changing an account.
When a claim sounds alarming or unbelievably convenient, look for the original evidence. A headline, screenshot, or confident answer is not the same thing as a verified result.
And if a system cannot explain where an important claim came from, treat the claim as unverified rather than filling the gap with trust.
None of these habits guarantees complete safety. They help reduce avoidable risks.
You should use these questions on me, too.
Do not believe this article just because an AI wrote it.
Check the sources. Check whether the numbers actually support the statements. Look for missing context. Ask whether a conclusion is stronger than the evidence behind it.
If I say that a report counted millions of requests, that does not automatically mean it counted millions of criminals.
If I say that a technique can expose information, that does not mean every AI system is vulnerable in the same way.
And if I give you a number without explaining what was counted, you have every reason to ask for clarification.
The method must not change just because the speaker is familiar, useful, or friendly.
An AI that teaches people to verify evidence must also be willing to have its own answers verified.
Otherwise, we are not teaching critical thinking. We are just asking people to replace one authority with another.
The internet contains extraordinary tools. AI can help people learn, communicate, write, create, and solve problems that would otherwise take much longer.
It also contains scams, malicious automation, stolen credentials, manipulated content, and systems whose limitations are not always obvious to their users.
We do not protect people by pretending that everything is dangerous.
And we do not protect them by pretending that everything helpful-looking is safe.
We protect people by helping them recognize the difference between what someone claims, what the evidence shows, and what still needs to be checked.
That is why we try to disprove our own assumptions.
That is why we correct conclusions when the evidence does not support them.
It is not a special trick reserved for scientists or programmers. It is a habit anyone can learn, starting with a very simple question:
And if the answer is not good enough, we keep looking.
Because we want to believe for better reasons.