Handling großer Datenmengen

  • Hallo Liste,

    innerhalb meiner Plone-Seite gibt es fuer members die Moeglichkeit, Dateien hochzuladen. Diese koennen - da es sich teilweise um Rohdaten aus verschiedenen Messungen handelt, schnell mehrere hundert MB bzw. sogar einige GB groß sein.

    Meine Frage lautet nun:

    Wie kann ich am besten mit solchen Datenmengen umgehen? Ist es sinnvoll, die Dateien einfach innerhlab der Plone Seite "rumliegen" zu lassen, oder waere eine Verknuepfung mit einer externen (?) Datenbank sinnnvoller. Ich habe leider gar keine Ahnung von Verknuepfungen zwischen Plone und Datenbanken, bzw. Datenbanksystemen innerhalb von Plone. Ich habe jetzt nur festgestellt, dass meine Data.fs in dem Maße waechst, wie Dateien hochgeladen werden. Ich bin mir einigermassen unischer, ob es da irgendwann eine Grenze gibt, bzw. ob die Größe der Data.fs Auswirkungen auf die Performance der Seite hat.

    Dank im Voraus für Vorschläge,
    Jens

  • Frag mich nicht nach Details, aber es sollte prinzipiell so sein, dass die eigentlichen Daten auf dem Server-FS liegen und nur die Referenzen/Links zu den Daten in der ZODB gespeichert sind. Die Daten direkt in der ZODB zu speichern wird mit Sicherheit zu einem Stillstand führen.

    Leider habe ich dahingehend auch keine Erfahrung, so dass ich dir nicht konkret weiterhelfen kann. Aber es sollten sich sicher Posts zu diesem Thema im Netz finden lassen, da google ja auch Mailinglisten wie die DZUG im Index hat.
    Ein entsprechendes Feedback hier wäre dann natürlich sehr willkommen.

    Torty

    "Carpe Diem" powered by positiv Feelings

  • Hallo Torty,

    ich bin jetzt auf ExternalFile gestossen, was ja eigentlich die Funktionen liefern soll, die mir vorschweben, nur leider bekomme ich das nicht recht zum Laufen...


    Wenn jemand damit Erfahrungen gemacht hat, waere ich ueber Tips zur Verwendung von ExternalFile sehr dankbar.

    Jens

  • Kannte ich schon, aber die Diskussion dort kommt irgendwie auch nicht so richtig zu einem nachvollziehbaren Schluss. Ich habe es gestern auch noch geschafft, meine lokale Installation von PLone so weit abzuschiessen, dass ich gar keine neuen Elemente mehr anlegen konnte. Ich bin gerade dabei, eine Neuinstallation zu machen (um bei der Gelegenheit auch gleich einen Umzug zu sinulieren ;) ). Dann schaue ich mir in Ruhe ExternalFile an, wenn ich was Neues rauskriege, melde ich mich.

    LG, Jens

  • Also, wenn ich ExternalFile und CMFExternalFile bei mir installiere, kann ich zwar theoretisch External files tatsächlich über meine Seite hochladen (will heißen es wird im Reiter "zum Ordner hinzufügen" angeboten), tatsaechlich bekomme ich dann aber für alle! Inhaltstypen Fehlermeldungen mit AttributeError in portal_navigation.


    Dankbar für alle Hinweise,
    Jens