USB - Sehr viele Sticks anschließen | Linux

[Dirty Oerti]

Tag

Ich bin mir nicht ganz sicher, ob Hardware oder Linux in diesem Fall das richtige Brett wäre, daher erstmal die Beschreibung meines Problems:


Ich hab viele (sehr sehr sehr viele) USB Sticks. Und ich muss alle davon in einer bestimmten Art und Weise partitionieren und dann mit immer den gleichen Daten beschreiben. Anschließend kommt noch Syslinux zum Booten drauf und das war es eigentlich schon.
Dafür habe ich mir ein (Python)Skript geschrieben, das die obige Aufgabe einwandfrei ausführen kann.

Nun muss ich natürlich die USB Sticks noch an den Rechner anschließen, auf dem das Skript läuft.
Und genau dabei ist denke ich etwas schief gegangen:

Bei Kopieren der Dateien hatte ich von /bin/cp bei fast allen Sticks die Meldung "Eingabe / Ausgabe Fehler" bekommen. Noch dazu lief der gesamte Prozess UNGLAUBLICH langsam ab.

Angeschlossen waren die Sticks folgendermaßen:

An 1 USB Port des Rechner war ein 7-fach HUB angeschlossen.
An 3 dieser 7 Ports des HUBS waren weitere 7-fach HUBs angeschlossen
An jedem dieser HUBS waren 6 weitere 7-fach HUBS angeschlossen.
Und an jedem dieser HUBS alle 7 Anschlüsse an USB Sticks.

Ich verdeutliche das vllcht mal etwas besser:

RECHNER --1x--> HUB ---3x---> HUB ----6x----> HUB ---7x---> USB Stick

Das macht dann insgesamt 126 USB Sticks

Jeder der HUBs ist ein aktiver HUB, aber alle an 1 Steckdose angeschlossen (natürlich über Mehrfachdosen)

Vom Ubuntu auf dem Rechner wurden aber nur 105 USB Sticks erkannt. Leider hat das Ubuntu (Natty) natürlich auch erstmal versucht, alle Sticks zu verwalten, sprich auch zu mounten.


Jetzt meine Fragen:

1. Warum wurden nur 105 Sticks erkannt?
2. Was kann der Grund für den Fehler von cp sein? --- Zu lange Leitungen? / Instabile Stromversorgung?
3. Wie kann ich möglichst viele Sticks auf einmal anschließen? Worauf sollte ich dabei achten?


Grund warum ich möglichst viele Sticks anschließen möchte ist der, dass ich insgesamt 3000 Sticks habe, die mit diesen Daten bespielt werden müssen Da wäre es natürlich schön, wenn ich nicht all zu oft Sticks wechseln müsste

[cloidnerux]

Dir Fehlen 21 Sticks, macht 3 ganze Hubs, sieht für mich nach einem Fehler an einem Port aus.

Ein USB-Hub ist ein USB-Gerät, das das USB-Signal an mehrere Ports verteilt. Handelsüblich sind USB-Hubs mit bis zu sieben Downstream-Ports.
Hubs können ihren Strom aus dem Bus selbst beziehen (als Bus-Powered oder passiver Hub bezeichnet) oder über eine eigene Stromversorgung verfügen (als Self-Powered oder aktiver Hub bezeichnet). Die meisten Self-Powered-Hubs werden über ein Steckernetzteil mit Strom versorgt. Manche Monitore haben auch einen USB-Hub eingebaut, der über die Stromversorgung des Monitors mitgespeist wird. Self-Powered-Hubs haben den Vorteil, dass jedes an sie angeschlossene Gerät bis zu 500 mA Strom beziehen kann. Bei Bus-Powered-Hubs dürfen der Hub und alle an ihn angeschlossenen Geräte gemeinsam maximal 500 mA beziehen. Hybride Self- und Bus-Powered-Hubs sind möglich – der Hub ist dann Self-Powered, wenn ein Netzteil an ihn angeschlossen ist, ansonsten Bus-Powered. Manchmal werden Bus-Powered-Hubs auch als „passiv“ und Self-Powered-Hubs als „aktiv“ bezeichnet; technisch ist das jedoch falsch.
Bei der Verschachtelung von Hubs werden die Grenzen durch die maximal 127 möglichen USB-Geräte pro root-hub und durch die Signallaufzeit festgelegt – jeder Hub erhöht die Laufzeit, die Verschachtelungstiefe ist auf maximal fünf (Hub-)Ebenen unterhalb des Hostcontrollers beziehungsweise des Root-Hubs begrenzt. Die maximale Distanz zwischen zwei mit USB verbundenen Geräten liegt wegen der Beschränkung von 5 m pro USB-Kabel bei 30 m – sechs Kabel mit je fünf Meter Länge und dazwischen fünf Hubs.
USB 2.0 und Hubs [Bearbeiten]
Low-, Full- und High-Speed-Geräte lassen sich an einem USB-2.0-Host fast beliebig mischen, ohne dass Geschwindigkeitsnachteile entstehen. Hubs nach dem USB-1.x-Standard können an USB-2.0-Hosts verwendet werden. Geräte, die direkt oder indirekt an einen solchen Hub angeschlossen werden, können allerdings lediglich die Geschwindigkeit Full Speed erreichen, also 12 Mbit/s.
Ein USB-2.0-Host und ein USB-2.0-Hub kommunizieren immer mit High Speed, selbst wenn an dem Hub Low- oder Full-Speed-Geräte angeschlossen sind. Es ist Aufgabe des Hubs, die Daten dieser Geräte in das High-Speed-Protokoll zu verpacken, dazu hat er einen oder mehrere sogenannte „Transaction Translators“ eingebaut. Die Anzahl der Transaction Translators bestimmt, wie viele langsame Geräte an einen USB-2.0-Hub angeschlossen werden können, ohne sich gegenseitig auszubremsen. Wird diese Zahl überschritten, so bricht die Datenrate aller an diesen Host angeschlossenen Low-Speed- und Full-Speed-Geräte auf Geschwindigkeiten deutlich unter denen eines USB-1.1-Hosts ein; der Durchsatz von High-Speed-Geräten am selben Hub bleibt jedoch unbeeinflusst. An der Spezifikation des Stromverbrauchs hat sich bei USB 2.0 im Vergleich zu USB 1.1 nichts geändert.

Du hast wahrscheinlich zu lange Signallaufzeiten und bewegst dich gerade so an der Grenze des machbaren.
Versuche an mehr Root-HUBs von deinem PC heranzukommen, evt durch eine Zusätzliche USB-Karte.

[Xin]

1. Warum wurden nur 105 Sticks erkannt?

Lassen wir diesen Satz mal kurz in der Realität stehen und fragen uns, was an diesem Satz das Problem verdeutlichen könnte.

Formulieren wir den Sachverhalt anders. Ich habe über 100 USB Geräte an einem einzigen Computer angesteckt und erwarte kein Problem zu haben. Da hakt doch was, oder? ;-D


Ich halte nichts von Hub->Hub->Hub. Oftmals fängt das Gehubbe schon auf dem Mainboard an, dann hast Du noch mehr Hubs. 7fach Hubs sind soweit ich weiß zwei serielle vierfach-Hubs (da kann ich mich aber auch irren, aber bei mir klingelt da was).

Ich bin auch für USB-Karten. Ansonsten: Nimm einen zweiten (oder noch mehr) Rechner.

Es bringt auch nicht soviel, soviele USB Sticks an einen Port anzustecken, weil Du am Port 480MBit hast, die immer weniger werden. Du wirst also nicht schneller, nur weil Du viele Sticks anschließt.
126 Sticks zu wechseln dauert lange. 20 Sticks zu wechseln geht schneller, während der 2. Rechner andere 20 Sticks bespielt. Außerdem hat der Rechner überhaupt eine Chance soviele Daten an die USB-Ports zu schicken.

Kurz: Wenn Du 3000 Sticks an einen Port anschließen könntest, wärst Du nicht wirklich schneller, als wenn Du Du 3000 Sticks hintereinander an einen Port beschreibst. Das ist vergleichbar mit der schwangeren Frau, die ein Kind in 9 Monaten gebärt. Das bedeutet nicht automatisch, dass es mit 9 Frauen nur einen Monat dauert.

[Dirty Oerti]

Formulieren wir den Sachverhalt anders. Ich habe über 100 USB Geräte an einem einzigen Computer angesteckt und erwarte kein Problem zu haben. Da hakt doch was, oder? ;-D

Ich hätte auch versuchen können, alle Sticks auf einmal anzuschließen ^^
Aber der Aufbau so war schon groß genug ^^ Und glaube es oder nicht, aber so ein paar Sticks und ein paar HUBs können GANZ schön heizen! Das ist auch was .. vllcht wurde es den Sticks oder den HUBs auch zu warm?
Wenn ich kann und darf (da es für die Uni ist) mach ich mal ein Foto vom Aufbau ^^

Ich bin auch für USB-Karten. Ansonsten: Nimm einen zweiten (oder noch mehr) Rechner.

Mehr Rechner ist eine Idee, ist aber generell teurer als HUBs. Deswegen bin ich bei den Hubs gelandet. Ist an HUBs generell was falsch?

Es bringt auch nicht soviel, soviele USB Sticks an einen Port anzustecken, weil Du am Port 480MBit hast, die immer weniger werden. Du wirst also nicht schneller, nur weil Du viele Sticks anschließt.

Das ist mir klar, mir fällt auf, ich hab das da nicht ganz gut erklärt:
Mein Skript versucht NICHT diese ganzen Sticks parallel zu beschreiben oder so. Es arbeitet die Sticks seriell hintereinander ab.
Es geht mir also nicht darum, möglichst schnell die Sticks zu bespielen.
Es geht darum, dass ich nicht die ganze Zeit davor sitzen muss und Sticks wechseln muss.

Wenn ich 100 Sticks in einem Durchlauf bespielen kann, bedeutet das für mich, dass ich das Skript anwerfen kann, dann mich in eine Vorlesung setzen kann, und nach 2 Stunden wiederkommen kann und 100 fertige Sticks in der Hand hab.
Sprich: Ich will die "Interaktion" meinerseits mit dem System gebündelt auf weniger Zeitpunkte.

Wenn ich die 3000 Sticks nämlich 1 nach dem anderen bespiele, dann muss ich lange da sitzen, und alle 2-3 Minuten umstöpseln.

Mir ist es lieber, wenn ich dem Computer 100 Sticks gebe, diese abgearbeitet werden und ich dann 100 Sticks auf einmal umstöpseln kann.



Also: Wie bekomme ich möglichst viele Sticks daran zum schnell laufen? Und mit "schnell" meine ich, dass ich die (möglichst) volle Geschwindigkeit für 1 Stick habe, wenn ich gerade nur diesen 1 Stick bearbeite.

[cloidnerux]

Also: Wie bekomme ich möglichst viele Sticks daran zum schnell laufen? Und mit "schnell" meine ich, dass ich die (möglichst) volle Geschwindigkeit für 1 Stick habe, wenn ich gerade nur diesen 1 Stick bearbeite

Bau dir einen Mechansichen Wechsler, dem du alle Sticks in einem Magazin gibst und der das dann selbstständig wechselt^^

Ansonsten: Hol dir ein paar Freunde und mach es Abwechselnd oder such dir einen Hersteller, der dir deine Daten gleich auf eine Serie von USB-Sticks spielt.
Alles andere bedeutet Zeit investieren.

[Dirty Oerti]

Dir Fehlen 21 Sticks, macht 3 ganze Hubs, sieht für mich nach einem Fehler an einem Port aus.

Dachte ich auch erst, es handelt sich aber um einzelne HUBs in der letzten Ebene, die alle an einem anderen HUB in der "Zwischenebene" lagen.

Du hast wahrscheinlich zu lange Signallaufzeiten und bewegst dich gerade so an der Grenze des machbaren.

Dachte ich auch, aber die gesamte Laufstrecke liegt bei etwa 5 Meter Kabel. Das sollte doch eigentlich machbar sein?

Denkst du, dass die Stromversorgung vllcht auch ein Problem sein kann?

Versuche an mehr Root-HUBs von deinem PC heranzukommen, evt durch eine Zusätzliche USB-Karte.

Hm ...
Also müsste es auch helfen mehr USB Ports des Rechners selbst zu verwenden? Der Rechner hat ja mehr als 1 root Hub (zumindest laut lsusb)


------------------

Bau dir einen Mechansichen Wechsler, dem du alle Sticks in einem Magazin gibst und der das dann selbstständig wechselt^^

Theoretisch machbar, aber eigentlich wollten wir ( = die Uni) ohne zusätzliche Hardware (aus Eigenentwicklung) auskommen ^^

Ansonsten: Hol dir ein paar Freunde und mach es Abwechselnd oder such dir einen Hersteller, der dir deine Daten gleich auf eine Serie von USB-Sticks spielt.

Die Sticks müssen regelmäßig wieder bespielt werden.
Sei es, weil das darauf befindliche System in einer neueren Version vorliegt (was öfters passieren wird, das ist gerade erst aus der AlphaPhase raus, weiß ich, weil ich es geschrieben habe) oder einfach durch die normale Verwendung der Sticks:
Das Skript liest nämlich wichtige (Prüfungs)Daten von den einzelnen Sticks aus, bevor diese neu bespielt werden.

[cloidnerux]

Dachte ich auch, aber die gesamte Laufstrecke liegt bei etwa 5 Meter Kabel. Das sollte doch eigentlich machbar sein?

Elektrische Ströme bewegen sich mit Lichtgeschwindigkeit, daher reden wir hier überhaupt nicht von Kabellänge.
Wie im Wikipedia Artikel geschrieben, verursacht jeder Hub längere Signallaufzeiten, da jeder HUB die Daten über einen Chip leitet.
Hast du nach der 3 oder 4 Ebene zu hohe Signallaufzeiten, liegt das an den verbauten Chips.

Denkst du, dass die Stromversorgung vllcht auch ein Problem sein kann?

Nein.

Hm ...
Also müsste es auch helfen mehr USB Ports des Rechners selbst zu verwenden? Der Rechner hat ja mehr als 1 root Hub (zumindest laut lsusb

Versuche es!

Theoretisch machbar, aber eigentlich wollten wir ( = die Uni) ohne zusätzliche Hardware (aus Eigenentwicklung) auskommen ^^

Sei es, weil das darauf befindliche System in einer neueren Version vorliegt (was öfters passieren wird, das ist gerade erst aus der AlphaPhase raus, weiß ich, weil ich es geschrieben habe) oder einfach durch die normale Verwendung der Sticks:

Wenn du das ganze 2 mal Pro Jahr machst, bau dir etwas was das kann.
In Gedanken hatte ich eine Konstruktion der art im Kopf, das du 4 Stangen senkrecht so platzierst, das die Sticks sich nicht verschieben können. Unten ist ein Servo der den Stick in eine USB-Buchse schiebt und ein Motor mit Gummirad, der den Stick nach erfolgreichem Kopieren nach hinten wirft. Das ganze kann man mit nem Arduino bauen, kostet vlt 50€ und könnte dir viel Arbeit ersparen, vor allem wenn du das häufiger machen willst...

[Dirty Oerti]

Elektrische Ströme bewegen sich mit Lichtgeschwindigkeit, daher reden wir hier überhaupt nicht von Kabellänge.

Die elektrischen Signale, ja. Trotzdem gibt es ja eine Beschränkung der maximalen Übertragungsstrecke. Ich vermute mal aufgrund des Kabelwiderstands. Die liegt - laut Wiki - ja aber bei 5m pro Hub.
Keine Ahnung, ich dachte nur, vllcht kommt daher mein "Eingabe/Ausgabefehler"

Wie im Wikipedia Artikel geschrieben, verursacht jeder Hub längere Signallaufzeiten, da jeder HUB die Daten über einen Chip leitet.
Hast du nach der 3 oder 4 Ebene zu hohe Signallaufzeiten, liegt das an den verbauten Chips.

Ja, vielleicht sind die HUBs einfach nicht so der Wahnsinn. Was ich auf jeden Fall mal probieren werde ist, die Verschachtelungstiefe zu reduzieren. Also:

Versuche es!

... werd ich das mal machen

Wenn du das ganze 2 mal Pro Jahr machst, bau dir etwas was das kann.

Die Idee ist, das nach jeder erfolgten Prüfung mit dem System zu machen.
Das wäre dann in der Prüfungszeit so 1 mal am Tag ...
Sprich auf die Dauer muss hier eine stabile Lösung her.

In Gedanken hatte ich eine Konstruktion der art im Kopf, das du 4 Stangen senkrecht so platzierst, das die Sticks sich nicht verschieben können. Unten ist ein Servo der den Stick in eine USB-Buchse schiebt und ein Motor mit Gummirad, der den Stick nach erfolgreichem Kopieren nach hinten wirft. Das ganze kann man mit nem Arduino bauen, kostet vlt 50€ und könnte dir viel Arbeit ersparen, vor allem wenn du das häufiger machen willst...

Hm ... schlecht ... ^^ ... jetzt denke ich auch über ganz tolle Konstruktionen nach
Wäre natürlich trotzdem leichter, wenn man das lediglich mit einem PC erledigen könnte

[cloidnerux]

Die Idee ist, das nach jeder erfolgten Prüfung mit dem System zu machen.
Das wäre dann in der Prüfungszeit so 1 mal am Tag ...
Sprich auf die Dauer muss hier eine stabile Lösung her.

Die Logik in meinen Gehirn fragt sich gerade, warum man einen so hohen Aufwand betreibt, ein unfertiges System auf so viele Sticks zu kopieren, wenn man es dann doch wieder ändern muss.
Aber du hast sicherlich Gründe.

Wäre natürlich trotzdem leichter, wenn man das lediglich mit einem PC erledigen könnte

Wenn du jeden Tag 126 USB-Sticks neu Bespielen willst, ist es egal ob mit einem 2 oder 10 PCs. Es macht trotzdem unmengen an Arbeit.
Daher war meine Idee halt eine Konstruktion, die dir wenigstens den Langweiligen Teil abnimmt und vlt auch nachts arbeiten kann, sodass man auch mal Schlaf findet.

[Xin]

Wenn du das ganze 2 mal Pro Jahr machst, bau dir etwas was das kann.

Die Idee ist, das nach jeder erfolgten Prüfung mit dem System zu machen.
Das wäre dann in der Prüfungszeit so 1 mal am Tag ...
Sprich auf die Dauer muss hier eine stabile Lösung her.

3000 Sticks von einer Person - einer studentischen Hilfskraft, die nebenher in Vorlesungen gehen muss - pro Tag beschreiben zu lassen ist keine stabile Lösung.
Wer von euch macht da Projektplanung? Das kann man sich doch an einer Hand ausrechnen, dass diese Menge nicht nebenher zu leisten ist!?

Wenn Du morgens krank wirst und dann nicht da bist, tritt eine Verzögerung auf, die einen Ausfall von mehreren hundert Sticks bedeutet und damit die Prüfungen für den Tag gefährden. Alleine die Idee bei einem System für 3000 Klienten genau einen Server zu nehmen, hakt massiv. Auch ein Server fühlt sich schonmal nicht wohl, meistens dann, wenn man ihn in dem Moment braucht. Ohne ausreichende(!) Redundanz: keine stabile Lösung.
Wenn Du zwei Rechner brauchst, um in der Konfiguration schnell genug zu sein, sollten mindestens drei da stehen, damit man noch eine Chance hat, falls einer von den dreien ausfällt. Konzeptionell ein RAID5. Und von meinem RAID5 ziehe ich auch Backups, denn ein RAID5 ist auch keine sichere Lösung, wenn der Serverraum abbrennt oder der Blitz einschlägt.

Die Studenten könnten ihre USB-Sticks unabhängig von Dir selbst bespielen, was das Risiko halbiert, weil der Server auch ohne Admin arbeitet und kranke Studenten auch keine Prüfung schreiben.

Das Konzept hat den typischen Fehler: Theoretisch kein Problem, aber vollkommen an der Realität vorbei. Selbst wenn Du 126 Sticks pro Stunde beschreibst, brauchst Du 24 Durchgänge. Soviele Vorlesungen hast Du pro Tag nicht. Braucht jeder Stick die optimistischeren 2 Minuten, dann sind das 252 Minuten für 126 Sticks. Du hast pro Tag 1440 Minuten. Macht maximal 720 Sticks bei perfektem Timing ohne Umstecken, ohne dass ein Server oder Du Husten hat.

Man kann das auch anders formulieren: Während einer 90 Minuten Vorlesung können maximal 45 Sticks 2 Minuten lang beschrieben werden. Mit Umstecken brauchst 120 Minuten pro Ladung. Macht eine Leistung von 45 Sticks pro 2 Stunden. Nehmen wir an, Du bist 12 Stunden anwesend, macht max 7 Durchgänge. Macht eine Produktion von 315 Sticks. Unter 15 Rechnern würde ich gar nicht erst anfangen und dann bleibt die Frage, ob Du in 30 Minuten 675 Sticks ausgetauscht bekommst... schaffst Du 22,5 Sticks pro Minute zu wechseln? Das sind 2,6 Sekunden pro Stick, das ist also noch ein Part in dem Szenario, dass für einen 20jährigen noch halbwegs realistisch wäre. :->
Danach Duschen nicht vergessen ;->
7*30 Minuten Power => 3,5 Stunden am Tag, neben der Vorlesung... was verdienst Du nochmal?
Wieviel Pause hast Du so zwischen den Vorlesungen? :->