Block XI · Expertenlevel · Lektion 61
Scraping und Recherche-Agenten: 7 Repos, mit denen deine KI das Internet liest
Die 7 beliebtesten GitHub-Repos, mit denen deine KI Websites, soziale Netzwerke und Foren liest, Daten extrahiert und für dich surft: was jedes kann, wie du es installierst und ein Beispiel für dein Business, unter Beachtung von Nutzungsbedingungen, robots.txt und DSGVO.
- 11 Min.
- 9 animierte Folien
- Quiz mit 4 Fragen
- Vertont in 6 Sprachen
Das erwartet dich in dieser Lektion
- Gib deiner KI Augen und Hände im Internet
Diese Repos lesen Websites, soziale Netzwerke und Foren für dich: Konkurrenz beobachten, Daten sammeln oder Berichte erstellen ohne Kopieren und Einfügen.
- last30days: Was diesen Monat über ein Thema gesagt wird
Skill für deinen Agenten, der das Meistbewertete des letzten Monats auf Reddit, X, YouTube oder HN zusammenfasst. Über 64.000 Sterne, weil er so einfach ist.
- Agent-Reach: Dein Agent liest YouTube, X und mehr
Kostenlose CLI, die deinen Agenten mit Websites, YouTube, GitHub, X oder Reddit verbindet, ohne APIs zu bezahlen. Fast 97.000 Sterne auf GitHub.
- Firecrawl: jede Website als Daten für die KI
API, die eine Seite oder eine ganze Website in Markdown oder strukturierte Daten verwandelt. Das beliebteste Tool: über 190.000 Sterne.
- Crawl4AI: kostenloser Crawler auf deinem Computer
Open-Source-Crawler, der Websites in KI-fertiges Markdown verwandelt, ohne Gebühren oder Pflichtschlüssel. Über 85.000 Sterne.
- Scrapling: Scraper, die bei Website-Änderungen nicht brechen
Scraping-Framework in Python, das die Daten wiederfindet, auch wenn sich das Design der Website ändert. Über 87.000 Sterne auf GitHub.
- browser-use: ein Agent, der surft wie ein Mensch
Bibliothek, mit der die KI im Browser klickt, Formulare ausfüllt und Daten extrahiert. Fast 118.000 Sterne auf GitHub.
- UI-TARS: der Agent, der den Bildschirm sieht und handelt
Projekt von ByteDance mit Agent TARS und UI-TARS Desktop: steuert Browser und Computer, indem es den Bildschirm sieht. Über 39.000 Sterne.
- Zusammenfassung: Wähle das Tool nach der Aufgabe
Vom Trendbericht mit einem Befehl bis zum Agenten, der deinen Computer bedient: Fang einfach an und steig auf, wenn du es brauchst.
Tools und Begriffe
- last30days
- Agent-Reach
- Firecrawl
- Crawl4AI
- Scrapling
- browser-use
- UI-TARS
Melde dich mit deinem Google-Konto an und starte diese Lektion und den ganzen Kurs.
Weitere Lektionen im Block
- Autonome Agenten: 7 GitHub-Repos, um Aufgaben an die KI zu delegieren
- Bau deine eigenen KI-Apps: No-Code, RAG und selbst gehostete Plattformen
- Coding-Agenten und Skills: die Repos, die alle installieren
- Open-Source-KI für Video, Bild und Audio: 7 GitHub-Repos
- Trainiere dein eigenes Modell
- Cluster: mehrere Rechner verbinden für größere Modelle
- Mega-Listen und GitHub-Repos, um KI zu lernen (plus Marketing-Skills)