Anzeige - [Interessiert an einer Anzeige?]
(?) Tags raten (?) ausschliessen, crawler, robots (edit)
 
Reply to this topicStart new topicStart Poll
> robots.txt-Frage

Geschrieben am: Mi 18.02.2004, 20:24
Report PostQuote Post

AyomRank 1
**

Gruppe: Member (inaktiv)
Beiträge: 0
Mitglied seit: --


Hallo,

in der robts.txt kann mit allow angeben welche Bereiche der Webwanderer durchforsten darf, mit disallow welche nicht.

Wenn ich jetzt zum Beispiel

CODE
User-agent: *
Allow: /c_crawler/crawler.html
Allow: /c_crawler/crawler_forum/root.html


in die robots.txt-datei schreibe indexiert der Webwanderer dann nur diese beiden Dateien oder werden diese dann "bevorzugt" durchforstet?

Die beiden oben angebenen Datein sind Sitemaps von Chip Online (
http://www.chip.de/c_crawler/crawler.html )

Gruß
Hexemer
Top
PMEmail Poster
Top
 
 
cybermaXX
#2 Geschrieben am: Mi 18.02.2004, 20:58 (+00:33)
Report PostQuote Post

AyomRank 6
************

Gruppe: Member (aktiv)
Beiträge: 550
Mitglied seit: 28.01.2004


empfehle dir das tutorial auf www.robotstxt.org


--------------------
Top
PMUsers WebsiteICQ
Top
 

#3 Geschrieben am: Mi 18.02.2004, 21:00 (+00:02)
Report PostQuote Post

AyomRank 1
**

Gruppe: Member (inaktiv)
Beiträge: 0
Mitglied seit: --


Ich spreche kein Englisch.
Top
PMEmail Poster
Top
 
Rainer
#4 Geschrieben am: Mi 18.02.2004, 21:22 (+00:21)
Report PostQuote Post

AyomRank 10
Group Icon

Gruppe: Moderatoren
Beiträge: 5238
Mitglied seit: 5.12.2003


QUOTE
Ich spreche kein Englisch.


Willkommen im Club! Aber laß nicht Remo wissen,
weil der hat mich deswegen gestern schon rund gemacht.
Top
PM
Top
 
Remo Uherek
Trigami AG
#5 Geschrieben am: Mi 18.02.2004, 22:49 (+01:27)
Report PostQuote Post

AyomRank 10
Group Icon

Gruppe: Admin
Beiträge: 6258
Mitglied seit: 22.09.2003


@Hexemer:
Interessante Sitemap von Chip ;-).

Aber ich wage stark zu bezweifeln, dass diese Allows einen Einfluss haben. Imho schadet es sicher nichts, aber nützen tuts auch nicht.

@Rainer:
Aber Rainer, ich mache doch hier niemanden rund :-). Es ist nur ein Fact, dass die heutige Welt immer englischsprachiger wird. Und je schneller man sich anpasst, desto weniger schmerzhaft wirds in Zukunft :-).

Gruss, Remo


--------------------
"You can’t build a reputation on what you’re going to do." - Henry Ford
"Ich prüfe jedes Angebot. Es könnte das Angebot meines Lebens sein." - Henry Ford
"Stop going for the easy buck and start producing something with your life. Create, instead of living off the buying and selling of others." - Carl Fox in 'Wall Street'

Trigami AG --> Blog-Marketing
Remo's Blog --> mein Blog ;-)
Trigami Partnerprogramm --> 10 EUR pro neuen aktiven Blogger & 5% auf alle Umsätze des ersten Jahres von neuen aktiven Kunden. Anleitung: Bei Trigami registrieren und Werbemittel einbauen.
Top
PMEmail PosterUsers Website
Top
 
Rainer
#6 Geschrieben am: Mi 18.02.2004, 23:17 (+00:27)
Report PostQuote Post

AyomRank 10
Group Icon

Gruppe: Moderatoren
Beiträge: 5238
Mitglied seit: 5.12.2003


QUOTE
Interessante Sitemap von Chip ;-)


Ja, ich hatte schon Angst, das mir mein Browser abschmiert!
Top
PM
Top
 
Remo Uherek
Trigami AG
#7 Geschrieben am: Mi 18.02.2004, 23:27 (+00:09)
Report PostQuote Post

AyomRank 10
Group Icon

Gruppe: Admin
Beiträge: 6258
Mitglied seit: 22.09.2003


Ja, mein Browser war auch an seiner Grenze. Ich glaube hier haben es die Chip-Jungs ein klein wenig übertrieben. Ausserdem sind die ganzen Anchor-Texte wirklich sehr aussagekräftig...


--------------------
"You can’t build a reputation on what you’re going to do." - Henry Ford
"Ich prüfe jedes Angebot. Es könnte das Angebot meines Lebens sein." - Henry Ford
"Stop going for the easy buck and start producing something with your life. Create, instead of living off the buying and selling of others." - Carl Fox in 'Wall Street'

Trigami AG --> Blog-Marketing
Remo's Blog --> mein Blog ;-)
Trigami Partnerprogramm --> 10 EUR pro neuen aktiven Blogger & 5% auf alle Umsätze des ersten Jahres von neuen aktiven Kunden. Anleitung: Bei Trigami registrieren und Werbemittel einbauen.
Top
PMEmail PosterUsers Website
Top
 
Thema wird von 0 Benutzer(n) gelesen (0 Gäste und 0 anonyme Benutzer)
0 Mitglieder:
Trackback-Url: http://www.ayom.com/track/t/704

Topic Options Reply to this topicStart new topicStart Poll

 


> Ähnliche Themen
RewriteRule Frage Bleys 128 11 Fr 10.10.2008, 20:15
Frage zu Google-Suche Basti Hoesl 69 4 Mi 8.10.2008, 22:09
Kleine SEO Frage EuD 308 10 Mi 1.10.2008, 13:59
G....e Frage Dieter 154 6 Di 9.09.2008, 11:02
Flash Frage (Ganzer Browser) chipchip 138 2 Sa 30.08.2008, 07:39
mod_rewrite Frage Coach 104 0 Mo 25.08.2008, 20:02
Frage zu Links und Pagerank (große Seite) hockeytreff 366 6 So 24.08.2008, 22:30
Iframe Javascript Frage Sancheck 232 10 Do 21.08.2008, 09:37
Frage bzgl. Wert eines Projektes Dieter 258 3 Mi 20.08.2008, 21:02
phpBB - Kleine Frage Marc3l 109 0 Mo 11.08.2008, 21:32




Anzeige - [Interessiert an einer Anzeige?]



Anzeigen


[Interessiert an einer Anzeige?]