Automatisierte Backup-Skripts

Foruminternes: Ankündigungen, Bekanntmachungen, Spielregeln
Antworten
Benutzeravatar
Xin
nur zu Besuch hier
Beiträge: 8859
Registriert: Fr Jul 04, 2008 11:10 pm
Wohnort: /home/xin
Kontaktdaten:

Automatisierte Backup-Skripts

Beitrag von Xin » So Mai 23, 2010 2:52 pm

Seit heute haben wir nun endlich also akzeptable Backup-Skripts. :-)

Da ich beruflich mich in die Bash-Programmierung wieder einarbeiten musste - um Backup-Skripts zu schreiben - habe ich zu Hause einfach weitergeübt. Nun gibt es ein Skript auf proggen.org, was das Wiki komplett (inkl. Konfiguration, Bildern und History), das Forum (Datenbank, Avatare, Hochgeladene Files) sowie ein Dump des SVN-Servers in ein großes ZIP-Archiv zusammenpackt (ca. 22MB zurzeit) und auf die Platte legt.

Ein zweites Skript auf meinem gerade entstehenden Backup-Server stößt das Skript auf proggen.org an und zieht sich das Archiv dann automatisch auf die eigene Platte.
Das Ganze macht ein komplettes Backup jedenfalls schonmal wesentlich einfacher als bisher, wo ich den ganzen Kram von Hand gestalten durfte.

Das Wiki habe ich inzwischen auch wieder ausgepackt und eine neue Installation von Dokuwiki auf dem Storage-Server aufgebaut. Das hat alles schonmal wunderbar geklappt.

Die ganze Sache werde ich nun so erweitern, dass Dirty Oerti und ich einen Development-Server haben, um uns am Design von proggen.org zu vergehen, ohne dass ihr leiden müsst ;)
Auch wenn ich seit dem letzten Serverumzug eigentlich keine Probleme feststellen konnte, bereite ich so den Fall vor dass dieser Server mal ernstzunehmend ausfällt, so dass wir schnell einen Server haben, der kurzfristig der alle wichtigen Dienste zügig übernehmen kann, in dem man ihn einfach mit einem Skript und dem Backup-Archiv füttert.
Merke: Wer Ordnung hellt ist nicht zwangsläufig eine Leuchte.

Ich beantworte keine generellen Programmierfragen per PN oder Mail. Dafür ist das Forum da.

Benutzeravatar
Xin
nur zu Besuch hier
Beiträge: 8859
Registriert: Fr Jul 04, 2008 11:10 pm
Wohnort: /home/xin
Kontaktdaten:

Re: Automatisierte Backup-Skripts

Beitrag von Xin » So Mai 23, 2010 7:18 pm

Und schon ergeben sich die ersten Vorteile des Backups... ich kann mit dem Backup viel besser Spielen.

Damit hat das Wiki nun eine neue Version vom jetzigen Design:
  • Das Proggen.org Logo passt sich korrekt an die obere Leiste an, vorher war da noch etwas Pixelmüll, den aber bisher nur redliner gesehen oder gemeldet hat.
  • Die Leiste oben ist nun durchgehend, auch da war eine Farbverfälschung drin, die da ein schwaches gestricheltes Muster ergab.
  • Die Detailseite, hat nun nicht mehr das Logo von meiner Homepage ^^ und zeigt nun auch das Seiten-Menü
  • Die Suchvorschau zerstört jetzt nicht mehr das Seitenlayout, sondern sieht brauchbar aus.
Es sind noch einige Fehler bekannt. Im CSS werden einige Ersetzungen nicht korrekt durchgeführt, aber das CSS muss ich eh mal durchkämen und aussortieren. Dass da Sachen falsch zusammengesetzt werden, merkt ansonsten ja auch keiner.
Und von Dominik ist halt noch der Hinweis auf die 1024x768er Auflösung.


Das Wiki war heute mehrfach kurz ohne Template... das Update funktionierte lokal, wie auch auf meinem privaten Wiki, nur auf proggen.org wollte es nicht... doch kaum kapiert man, dass das mit root:root Ärger gibt, wenn www-data:www-data günstiger wäre, funktioniert es auch hier. ^^
Merke: Wer Ordnung hellt ist nicht zwangsläufig eine Leuchte.

Ich beantworte keine generellen Programmierfragen per PN oder Mail. Dafür ist das Forum da.

nufan
Wiki-Moderator
Beiträge: 2558
Registriert: Sa Jul 05, 2008 3:21 pm

Re: Automatisierte Backup-Skripts

Beitrag von nufan » So Mai 23, 2010 7:43 pm

Xin hat geschrieben:
  • Die Suchvorschau zerstört jetzt nicht mehr das Seitenlayout, sondern sieht brauchbar aus.
Bei sehr vielen Ergebnissen (z.B. bei der Eingabe von "c") geht die Vorschau unten über die Seite hinaus. Praktisch wäre ein Scrollbalken bei mehr als 10 Ergebnissen.

Benutzeravatar
cloidnerux
Moderator
Beiträge: 3123
Registriert: Fr Sep 26, 2008 4:37 pm
Wohnort: Ram (Gibts wirklich)

Re: Automatisierte Backup-Skripts

Beitrag von cloidnerux » So Mai 23, 2010 8:12 pm

Kann man irgendwie diese jsMath Beldung entfernen, das man die entsprechende Textur nicht hat?(Firefox 3.6 Win XP)
Redundanz macht wiederholen unnötig.
quod erat expectandum

Benutzeravatar
Xin
nur zu Besuch hier
Beiträge: 8859
Registriert: Fr Jul 04, 2008 11:10 pm
Wohnort: /home/xin
Kontaktdaten:

Re: Automatisierte Backup-Skripts

Beitrag von Xin » So Mai 23, 2010 8:51 pm

dani93 hat geschrieben:
Xin hat geschrieben:
  • Die Suchvorschau zerstört jetzt nicht mehr das Seitenlayout, sondern sieht brauchbar aus.
Bei sehr vielen Ergebnissen (z.B. bei der Eingabe von "c") geht die Vorschau unten über die Seite hinaus. Praktisch wäre ein Scrollbalken bei mehr als 10 Ergebnissen.
Stimmt... aber so ist das bei Dokuwiki nunmal. Wer mir das in CSS kurz zeigen kann, wie ich ein DIV mit Scrollbalken versehe, dem tue ich den Gefallen ;-)
cloidnerux hat geschrieben:Kann man irgendwie diese jsMath Beldung entfernen, das man die entsprechende Textur nicht hat?(Firefox 3.6 Win XP)
Ich kann auf meinen Storage-Server jetzt mal ganz simple JS Math mal runterschmeißen, irgendwas anderes installieren und gucken, wie sich das andere Plugin dann so macht... das war auf proggen.org direkt eher ungünstig.
Mich nervt die Meldung nämlich auch ^^
Merke: Wer Ordnung hellt ist nicht zwangsläufig eine Leuchte.

Ich beantworte keine generellen Programmierfragen per PN oder Mail. Dafür ist das Forum da.

Benutzeravatar
Kerli
Beiträge: 1456
Registriert: So Jul 06, 2008 10:17 am
Wohnort: Österreich
Kontaktdaten:

Re: Automatisierte Backup-Skripts

Beitrag von Kerli » Mo Mai 24, 2010 10:42 am

Xin hat geschrieben:Seit heute haben wir nun endlich also akzeptable Backup-Skripts. :-)

Da ich beruflich mich in die Bash-Programmierung wieder einarbeiten musste - um Backup-Skripts zu schreiben - habe ich zu Hause einfach weitergeübt.
Das ist gut. Wenn du dabei Hilfe oder Ratschläge brauchst, musst du nur sagen. Ich hab in letzter Zeit auch ein Backupsystem geschrieben das automatisch eine Reihe von Servern sichert, sowohl Daten mit rsync, als auch die verschiedensten Datenbanktypen.
Xin hat geschrieben:Die Leiste oben ist nun durchgehend, auch da war eine Farbverfälschung drin, die da ein schwaches gestricheltes Muster ergab.
Jetzt wo du es sagst fällt es mir erst auf :)
Xin hat geschrieben:Die Detailseite, hat nun nicht mehr das Logo von meiner Homepage ^^ und zeigt nun auch das Seiten-Menü
Das hat aber lange gebraucht ;) Das einzige was dort nicht so ganz passt ist das Feld Datum (Bei zb. %2009/%07/%31 %17:%Jul weiß ich nicht genau ob damit jetzt der 17. oder der 31. Juli gemeint ist)
Xin hat geschrieben:Die Suchvorschau zerstört jetzt nicht mehr das Seitenlayout, sondern sieht brauchbar aus.
Ich weiß zwar nicht mehr genau wie sie vorher ausgeschaut hat, aber jetzt schaut sie auf jeden Fall gut aus :) Das einzige was ich weglassen würde wäre die fixe Breite mit 200px, da dadurch längere Seitennamen nicht mehr über den Rand der Box hinausstehen würden.
Xin hat geschrieben:Stimmt... aber so ist das bei Dokuwiki nunmal. Wer mir das in CSS kurz zeigen kann, wie ich ein DIV mit Scrollbalken versehe, dem tue ich den Gefallen ;-)
So schaut es zb ganz gut aus: (Getestet mit Firefox 3.6.3)

Code: Alles auswählen

div.ajax_qsearch
{
  background:none repeat scroll 0 0 #EAE2D9;
  border:1px solid #8E6E46;
  display:none;
  font-size:80%;
  line-height:1.2em;
  max-height:25em;
  opacity:0.9;
  overflow-x:hidden;
  overflow-y:scroll;
  padding:4px 0.5em 4px 4px;
  position:absolute;
  right:144px;
  text-align:left;
}
Xin hat geschrieben:[...]doch kaum kapiert man, dass das mit root:root Ärger gibt, wenn www-data:www-data günstiger wäre, funktioniert es auch hier. ^^
Tja, wenn man rsync sagt es soll die Zugriffsrechte der Dateien sichern, dann tut es das auch :P
"Make it idiot-proof and someone will invent an even better idiot." (programmers wisdom)

OpenGL Tutorials und vieles mehr rund ums Programmieren: http://www.tomprogs.at

Benutzeravatar
Xin
nur zu Besuch hier
Beiträge: 8859
Registriert: Fr Jul 04, 2008 11:10 pm
Wohnort: /home/xin
Kontaktdaten:

Re: Automatisierte Backup-Skripts

Beitrag von Xin » Mo Mai 24, 2010 9:54 pm

Kerli hat geschrieben:Das ist gut. Wenn du dabei Hilfe oder Ratschläge brauchst, musst du nur sagen. Ich hab in letzter Zeit auch ein Backupsystem geschrieben das automatisch eine Reihe von Servern sichert, sowohl Daten mit rsync, als auch die verschiedensten Datenbanktypen.
Ich weiß, was rsync ist, aber gearbeitet habe ich damit noch nie.
Kerli hat geschrieben:
Xin hat geschrieben:Die Leiste oben ist nun durchgehend, auch da war eine Farbverfälschung drin, die da ein schwaches gestricheltes Muster ergab.
Jetzt wo du es sagst fällt es mir erst auf :)
Darum hatte ich es damit auch nicht sooo eilig. Aber es halt auf meiner Liste.
Kerli hat geschrieben:
Xin hat geschrieben:Die Detailseite, hat nun nicht mehr das Logo von meiner Homepage ^^ und zeigt nun auch das Seiten-Menü
Das hat aber lange gebraucht ;) Das einzige was dort nicht so ganz passt ist das Feld Datum (Bei zb. %2009/%07/%31 %17:%Jul weiß ich nicht genau ob damit jetzt der 17. oder der 31. Juli gemeint ist)
Hier haben wir - wenn ich mich nicht irre - das übliche Problem: Dokuwiki ist keine eigene Software, sondern hier muss man erstmal nehmen, was man bekommt. Das lässt sich alles ändern, doch hier muss man eben genau gucken, wieviel Aufwand man da rein steckt.
Kerli hat geschrieben:Ich weiß zwar nicht mehr genau wie sie vorher ausgeschaut hat, aber jetzt schaut sie auf jeden Fall gut aus :) Das einzige was ich weglassen würde wäre die fixe Breite mit 200px, da dadurch längere Seitennamen nicht mehr über den Rand der Box hinausstehen würden.
Vorher löste sich das Design komplett auf. Das alte Design steht noch als Alternative zur Verfügung, bei Bedarf kann ich das alte Design gerne nochmal umschalten. ^^
Das mit den den 200px ist kein Problem.
Kerli hat geschrieben:
Xin hat geschrieben:Stimmt... aber so ist das bei Dokuwiki nunmal. Wer mir das in CSS kurz zeigen kann, wie ich ein DIV mit Scrollbalken versehe, dem tue ich den Gefallen ;-)
So schaut es zb ganz gut aus: (Getestet mit Firefox 3.6.3)

Code: Alles auswählen

div.ajax_qsearch
{
  background:none repeat scroll 0 0 #EAE2D9;
  border:1px solid #8E6E46;
  display:none;
  font-size:80%;
  line-height:1.2em;
  max-height:25em;
  opacity:0.9;
  overflow-x:hidden;
  overflow-y:scroll;
  padding:4px 0.5em 4px 4px;
  position:absolute;
  right:144px;
  text-align:left;
}
Die Woche wird wieder was spaßiger, ich hoffe am Samstag wieder ans Design zu kommen.
Kerli hat geschrieben:
Xin hat geschrieben:[...]doch kaum kapiert man, dass das mit root:root Ärger gibt, wenn www-data:www-data günstiger wäre, funktioniert es auch hier. ^^
Tja, wenn man rsync sagt es soll die Zugriffsrechte der Dateien sichern, dann tut es das auch :P
Naja, der Sync darf nicht vom Storage-Server zu proggen.org gehen, da der Storage-Server vorrangig Backups machen soll und nicht veraltete Daten zurückspielen ;)
Zuletzt geändert von Kerli am Di Mai 25, 2010 10:33 pm, insgesamt 2-mal geändert.
Grund: Quote-Tag korrigiert
Merke: Wer Ordnung hellt ist nicht zwangsläufig eine Leuchte.

Ich beantworte keine generellen Programmierfragen per PN oder Mail. Dafür ist das Forum da.

Benutzeravatar
Kerli
Beiträge: 1456
Registriert: So Jul 06, 2008 10:17 am
Wohnort: Österreich
Kontaktdaten:

Re: Automatisierte Backup-Skripts

Beitrag von Kerli » Di Mai 25, 2010 10:38 pm

Xin hat geschrieben:Ich weiß, was rsync ist, aber gearbeitet habe ich damit noch nie.
Also vor allem für größere Datenmengen ist das wohl unverzichtbar, da man damit sehr leicht quasi inkrementelle Vollbackups machen kann. Über das Netzwerk werden nur die geänderten Daten übertragen und durch Hardlinks hat man Vollbackups mit dem Speicherbedarf von inkrementellen Backups.
Xin hat geschrieben:Hier haben wir - wenn ich mich nicht irre - das übliche Problem: Dokuwiki ist keine eigene Software, sondern hier muss man erstmal nehmen, was man bekommt. Das lässt sich alles ändern, doch hier muss man eben genau gucken, wieviel Aufwand man da rein steckt.
Es ist ja nicht wirklich wichtig. Mir ist es nur gerade aufgefallen...
Kerli hat geschrieben:Naja, der Sync darf nicht vom Storage-Server zu proggen.org gehen, da der Storage-Server vorrangig Backups machen soll und nicht veraltete Daten zurückspielen ;)
Man kann rsync ja auch in die andere Richtung verwenden. Zb. wenn man Änderungen raufspielen möchte, kann man damit wirklich nur geänderte Daten neu raufladen.
"Make it idiot-proof and someone will invent an even better idiot." (programmers wisdom)

OpenGL Tutorials und vieles mehr rund ums Programmieren: http://www.tomprogs.at

Benutzeravatar
Xin
nur zu Besuch hier
Beiträge: 8859
Registriert: Fr Jul 04, 2008 11:10 pm
Wohnort: /home/xin
Kontaktdaten:

Re: Automatisierte Backup-Skripts

Beitrag von Xin » Mi Mai 26, 2010 12:34 am

Kerli hat geschrieben:
Xin hat geschrieben:Ich weiß, was rsync ist, aber gearbeitet habe ich damit noch nie.
Also vor allem für größere Datenmengen ist das wohl unverzichtbar, da man damit sehr leicht quasi inkrementelle Vollbackups machen kann. Über das Netzwerk werden nur die geänderten Daten übertragen und durch Hardlinks hat man Vollbackups mit dem Speicherbedarf von inkrementellen Backups.
Die Platten für den Storage-Server kommen vermutlich am Donnerstag oder Freitag. 4x2TB, die ich ins RAID packe.

Dann ist auch genug Platz, um damit mal was zu spielen.
Kerli hat geschrieben:
Xin hat geschrieben:Hier haben wir - wenn ich mich nicht irre - das übliche Problem: Dokuwiki ist keine eigene Software, sondern hier muss man erstmal nehmen, was man bekommt. Das lässt sich alles ändern, doch hier muss man eben genau gucken, wieviel Aufwand man da rein steckt.
Es ist ja nicht wirklich wichtig. Mir ist es nur gerade aufgefallen...
Das Design wird angepasst und ich werde auch die aktuelle Kombi noch einige Zeit supporten, aber ich will mich auch wieder an das eigene CMS setzen.
Kerli hat geschrieben:
Xin hat geschrieben:Naja, der Sync darf nicht vom Storage-Server zu proggen.org gehen, da der Storage-Server vorrangig Backups machen soll und nicht veraltete Daten zurückspielen ;)
Man kann rsync ja auch in die andere Richtung verwenden. Zb. wenn man Änderungen raufspielen möchte, kann man damit wirklich nur geänderte Daten neu raufladen.
Dann überspiele ich ja die Änderungen, die in der Zwischenzeit gemacht wurde ;-)
Schon klar, dass man das Verzeichnisweise syncen kann, aber das Risiko möchte ich auch gar nicht erst eingehen: Backups funktionieren ausschließlich in eine Richtung - Änderungen oder Wiederherstellen von Daten sind explizite, manuelle Aktionen, die man definitiv nicht versehentlich machen kann.
Merke: Wer Ordnung hellt ist nicht zwangsläufig eine Leuchte.

Ich beantworte keine generellen Programmierfragen per PN oder Mail. Dafür ist das Forum da.

Antworten