ai newsDo., 15. Okt.
EilmeldungMeta and Apple team up to make Muse AI models run better on Macs

Indischer Schüler entwickelt Gemini-basierten Betrugsschutz Satark

Indiens digitales Bezahlwesen wächst schnell, doch damit steigen auch Cybercrime-Fälle wie Phishing und digitale Erpressung. Der 17-jährige Entwickler hat mit Google Gemini eine App gegen digitalen Betrug gebaut.

dev.toFreitag 08:16 · 09.10.DE3 Min. Lesezeit
Bild: dev.to

Indiens digitales Bezahlsystem boomt. Von UPI-Transaktionen am Straßen Tee-Stand bis hin zum Online-Banking ist die Bequemlichkeit unübertroffen. Doch mit dieser schnellen Digitalisierung geht auch eine dunkle Seite einher: ein massiver Anstieg von Cyber-Erpressung, Digital-Arrest-Betrug und Phishing-Angriffen.

Als 17-jähriger Ingenieursstudent, der meinen BE in CSE mit Spezialisierung auf AI & ML an der Sapthagiri NPS University absolviere, wurde mir klar, dass meine Eltern und Großeltern extrem anfällig für diese hochentwickelten Angriffe sind. Ich wollte etwas bauen, das nicht nur ein generisches „Warnung“-Schild anzeigt, sondern die Bedrohung in einfachen Worten erklärt und genau sagt, was als Nächstes zu tun ist.

Deshalb habe ich Satark (सतर्क) für die Hack2Skill PromptWars X Error Zero Challenge gebaut (Track 3: AI-Powered Cybersecurity & Digital Safety).

Satark ist ein Privacy-first Cybersecurity-Scanner und AI-Assistent, der speziell für die indische Bevölkerung entwickelt wurde. Er analysiert verdächtige SMS-Nachrichten, WhatsApp-Betrug, Phishing-URLs und Erpressungsschreiben und stellt eine sofortige 10-Minuten-Entlastungs-Checkliste bereit.

Die Kernphilosophie hinter Satark ist Zero-Trust Privacy. Die Menschen scheuen sich, ihre Nachrichten in AI-Tools zu kopieren und einzufügen, weil sie persönliche Informationen enthalten. Satark löst dieses Problem.

Um Satark hochpräzise zu machen, habe ich mich nicht auf nur eine einzige Erkennungsmethode verlassen. Ich habe eine dreistufige gewichtete Ensemble-Engine gebaut:

Durch die Verwendung von Gemini konnte ich über einfaches Text-Matching hinausgehen. Gemini versteht den Kontext von Social Engineering. Wenn eine Nachricht sagt: „Ihr Strom wird um 21:30 Uhr abgestellt, rufen Sie diese Nummer an“, erkennt Gemini sofort die Dringlichkeitstaktik, die typisch für Stromrechnungs-Betrug ist.

Ich habe eine widerstandsfähige Modell-Fallback-Kette (gemini-3.8-flash -> 3.7-flash -> 3.6-flash) in meinen Vercel Edge Functions implementiert. Dies garantiert hohe Verfügbarkeit, sodass der Dienst nie ausfällt, wenn jemand in Panik gerät und sofortige Hilfe benötigt.

Die größte technische Herausforderung bestand darin, die Privatsphäre zu gewährleisten. Wenn ein Nutzer eine Betrugsnachricht einfügt, die seine Aadhaar-Nummer oder Bank-OTP enthält, ist es eine schlechte Sicherheitspraxis, diese an eine externe API (sogar die von Google) zu senden.

Um dies zu lösen, habe ich einen Client-Side Privacy Shield entwickelt. Bevor Daten den Browser des Nutzers verlassen, entfernt ein strenger Regex-Algorithmus alle sensiblen Informationen aus dem Text. Er erkennt Telefonnummern (+91), 12-stellige Aadhaar-Formate, 16-stellige Kartennummern, OTPs und UPI VPAs und ersetzt sie durch [MASKED_*]-Tokens.

Damit versteht Gemini weiterhin perfekt den Kontext des Betrugs, aber die PII (Personal Identifiable Information) des Nutzers verlässt niemals sein Gerät.

Ein Cybersecurity-Tool ist nutzlos, wenn das Opfer es nicht verstehen kann. Deshalb verwendet Satark keinen technischen Fachjargon.

Durch hochgradig strukturiertes Prompting mit Gemini habe ich die AI dazu gezwungen, Erklärungen in einfacher Alltagssprache auszugeben. Darüber hinaus habe ich die gesamte Plattform in 10 regionale indische Sprachen lokalisiert (Hindi, Kannada, Tamil, Telugu, Bengali usw.). Ob Sie Englisch oder Marathi sprechen, Satark kann Sie durch die Krise führen.

Satark für Hack2Skill PromptWars zu bauen war eine unglaubliche Reise. Die Kombination aus traditionellem ML, strengen deterministischen Regeln und den fortschrittlichen Reasoning-Fähigkeiten von Googles Gemini AI hat mir die wahre Macht von AI für das soziale Gemeinwohl gezeigt.

Sie können das Live-Projekt hier ansehen: https://satarkcybersathi.vercel.app Und den Open-Source-Code hier: https://github.com/SANJAY-U-BHARADWAJ/SATARK-CYBERSECURITY-PARTNER

Mit Vorlagen können Sie schnell FAQs beantworten oder Snippets zur Wiederverwendung speichern.

Sind Sie sicher, dass Sie diesen Kommentar ausblenden möchten? Er wird in Ihrem Beitrag ausgeblendet, bleibt aber über den Permalink des Kommentars sichtbar.

Weitere Maßnahmen könnten sein, diese Person zu blockieren und/oder Missbrauch zu melden.

Automatisch übersetzt. Das Original auf Englisch ist unten aufklappbar.

Original (Englisch) anzeigen

India's digital payment ecosystem is booming. From UPI transactions at a roadside tea stall to online banking, the convenience is unparalleled. But with this rapid digitization comes a dark side: a massive surge in cyber extortion, digital arrest scams, and phishing attacks.

As a 17-year-old engineering student pursuing my BE in CSE with a specialization in AI & ML at Sapthagiri NPS University, I realized that my parents and grandparents were extremely vulnerable to these sophisticated attacks. I wanted to build something that didn't just flash a generic "Warning" sign, but actually explained the threat in simple terms and told them exactly what to do next.

That’s why I built Satark (सतर्क) for the Hack2Skill PromptWars X Error Zero challenge (Track 3: AI-Powered Cybersecurity & Digital Safety).

Satark is a privacy-first cybersecurity scanner and AI assistant designed specifically for the Indian demographic. It analyzes suspicious SMS messages, WhatsApp scams, phishing URLs, and extortion notices, and provides an immediate 10-minute relief checklist.

The core philosophy behind Satark is Zero-Trust Privacy. People are scared to copy-paste their messages into AI tools because they contain personal information. Satark solves this.

To make Satark highly accurate, I didn't rely on just one detection method. I built a three-tier weighted ensemble engine:

Using Gemini allowed me to go beyond simple text matching. Gemini understands the context of social engineering. If a message says "Your electricity will be disconnected at 9:30 PM, call this number," Gemini instantly recognizes the urgency tactic typical of power bill scams.

I implemented a resilient model fallback chain ( gemini-3.8-flash -> 3.7-flash -> 3.6-flash ) in my Vercel Edge functions. This guarantees high availability so the service never goes down when someone is panicking and needs immediate help.

The biggest technical challenge was ensuring privacy. If a user pastes a scam message that includes their Aadhaar number or Bank OTP, sending that to an external API (even Google's) is a bad security practice.

To fix this, I engineered a Client-Side Privacy Shield. Before any data leaves the user's browser, a strict Regex algorithm scrubs the text. It identifies Phone numbers ( +91 ), 12-digit Aadhaar formats, 16-digit card numbers, OTPs, and UPI VPAs, and replaces them with [MASKED_*] tokens.

Gemini still perfectly understands the context of the scam, but the user's PII (Personal Identifiable Information) never leaves their device.

A cybersecurity tool is useless if the victim can't understand it. That's why Satark doesn't use technical jargon.

Through highly structured prompting with Gemini, I forced the AI to output explanations in simple, everyday language. Furthermore, I localized the entire platform into 10 regional Indian languages (Hindi, Kannada, Tamil, Telugu, Bengali, etc.). Whether you speak English or Marathi, Satark can guide you through the crisis.

Building Satark for Hack2Skill PromptWars has been an incredible journey. Combining traditional ML, strict deterministic rules, and the advanced reasoning capabilities of Google's Gemini AI has shown me the true power of AI for social good.

You can check out the live project here: https://satarkcybersathi.vercel.app And the open-source code here: https://github.com/SANJAY-U-BHARADWAJ/SATARK-CYBERSECURITY-PARTNER

Originaltitel: Building Satark: How I used Gemini AI to Protect India from Digital FraudQuelle: dev.to (dev.to). Original öffnen