Meetings2011-09-22 » History » Version 8

J. Moringen, 09/22/2011 06:25 PM
updates

1 1 J. Moringen
h1. Meetings 2011-09-22
2 1 J. Moringen
3 1 J. Moringen
h2. Cause Vectors (Johannes)
4 1 J. Moringen
5 4 J. Moringen
* Causes
6 4 J. Moringen
** Transitive closure?
7 4 J. Moringen
** List vs. set
8 4 J. Moringen
* Provide event ids independently of sending?
9 7 J. Moringen
** Ingo: ids in active memory (which become available only after sending) have been inconvenient 
10 7 J. Moringen
* Keep origin and sequence number as attributes of events? Slightly in favor
11 4 J. Moringen
12 1 J. Moringen
h2. RSBag Demo and Update (Jan)
13 1 J. Moringen
14 2 J. Moringen
* Usage of @bag-record@, @bag-info@, @bag-play@
15 5 J. Moringen
* IDL retrieval
16 5 J. Moringen
** Converter registration could make IDL available via RPC
17 5 J. Moringen
** Include hash derived from IDL in each message
18 5 J. Moringen
*** Verify IDL compatibility
19 5 J. Moringen
*** Potential disadvantage: overhead
20 5 J. Moringen
*** Retrieval of definition could be solved via reverse hash -> definition resolution service
21 5 J. Moringen
*** Compatible IDL changes would be hard to do
22 5 J. Moringen
** HTTP downloads
23 5 J. Moringen
** RPC service that distributes IDLs
24 5 J. Moringen
*** Central IDL services with registration method
25 5 J. Moringen
*** Per-node/informer service
26 2 J. Moringen
* Replay strategies?
27 2 J. Moringen
* Flow-control?
28 7 J. Moringen
** Should not be handled in rsbag tools
29 2 J. Moringen
30 6 J. Moringen
h2. Recording Discussion (Ingo)
31 1 J. Moringen
32 6 J. Moringen
h3. Multi-file storage schemes
33 6 J. Moringen
34 6 J. Moringen
Ingo's mail:
35 6 J. Moringen
> wir sind jetzt auch bei der Umstellung des Logging für unsere Demos, und dabei sind mir ein paar Dinge aufgefallen, die ich als Defizite des aktuellen TIDE-Formats sehen würde (und die übrigens auch für rosbag gelten). Ich würde daraus Änderungen am TIDE-Format ableiten. Hier aber erstmal die Erläuterung.
36 6 J. Moringen
>
37 6 J. Moringen
> Kurz gesagt: Ich halte es inzwischen für ungünstig, zum Loggen eine einzige Datei zu verwenden. Wenn man aber mehrere Dateien verwendet, ändert sich Einiges an den Abwägungen.
38 6 J. Moringen
>
39 6 J. Moringen
> Eine entsprechende Überlegung hatte ich schon vor längerer Zeit angestellt, als mir das "dirfile"-Format des getdata-Projektes über den Weg lief, siehe: http://getdata.sourceforge.net/ Damals schien es mir aber keinen konkreten Grund zu geben, der dafür sprach, und es hat ein paar Nachteile beim Transport, und dirfile selbst ist jetzt auch nicht gerade das, was wir wollten. Wir haben das also erstmal nicht gemacht.
40 6 J. Moringen
>
41 6 J. Moringen
> Der Grund warum ich meine Ansicht da geändert habe ist einfach: Für manche Datentypen gibt es bereits etablierte und bessere Formate. Man kann das mischen, aber dann verliert man an dieser Stelle den kompletten Support für existente Werkzeuge. Es ist absehbar, dass man an irgendeinem Zeitpunkt das sowieso "exportieren" müsste, und dann wäre es vermutlich besser, man hätte es gleich so erfasst.
42 6 J. Moringen
>
43 6 J. Moringen
> Ein Anwendungsfall ist z.B. das Speichern von Video-Daten: Wenn ich nicht komprimiert speichere, kann ich das ohne Weiteres in ein TIDE-Logfile schreiben. Wenn ich aber schon beim Schreiben komprimieren will, dann ist es erstens von den Tools her sehr viel einfacher, das in eine getrennte Datei zu schreiben, und außerdem auch besser für die Weiterverarbeitung, das Schneiden, etc. Auch beim Loggen von XML-Dateien ist es z.B. ganz praktisch, die eine große Datei mit Namespaces einzubetten, weil man dann Standard-Werkzeuge drauf ansetzen kann.
44 6 J. Moringen
>
45 6 J. Moringen
> Man braucht trotzdem weiter einen Container für alles das, wofür es kein etabliertes Format gibt, aber wenn man sowieso mehrere Dateien verwendet, dann kann man diesen Container einfacher gestalten, und z.B. Meta-Daten getrennt ablegen, vielleicht sogar als XML (muss dann ja nicht mehr so oft manipuliert werden).
46 6 J. Moringen
>
47 6 J. Moringen
> Man will natürlich das ganze trotzdem als ein Konglomerat behandeln können, aber mit geeigneten Werkzeugen (z.B. MP4BOX für Video-Daten) ist das ja auch dann möglich, wenn mehrere Dateien vorliegen.
48 6 J. Moringen
>
49 6 J. Moringen
> Es würde mich sehr interessieren, was ihr von diesen Überlegungen haltet. Je nach dem, wie euer Feedback ist, würde ich dann eine Überarbeitung von TIDE anstoßen.
50 6 J. Moringen
51 6 J. Moringen
* Data in multi-file storage scheme
52 6 J. Moringen
** Video/Audio
53 6 J. Moringen
*** Could be stored in native formats (mpeg, mp3, ...)
54 6 J. Moringen
*** Advantages: tool support, compression
55 6 J. Moringen
*** Disadvantages: timestamps may be harder to obtain, meta-data has to be associated via external files
56 6 J. Moringen
** XML
57 6 J. Moringen
*** Advantages: tool support (but: would also  be available in TIDE-based recording if we had @bag-cat@)
58 6 J. Moringen
** Meta-data
59 6 J. Moringen
*** Additional file(s) for whole directory
60 8 J. Moringen
*** Store(s) channel information
61 8 J. Moringen
*** Store(s) associated timestamps and meta-data for native data files
62 8 J. Moringen
*** Store(s) indexing information
63 6 J. Moringen
64 6 J. Moringen
* Implementation
65 6 J. Moringen
** Commandline tool orchestrates multi-source recording
66 6 J. Moringen
*** RSB source
67 6 J. Moringen
*** Camera sources
68 6 J. Moringen
*** Microphone sources
69 6 J. Moringen
*** ROS source
70 6 J. Moringen
** Commandline tool or client library for data access
71 6 J. Moringen
*** Would provide timestamp-based alignment of multimodal data
72 6 J. Moringen
*** Would abstract access methods (e.g. video container, TIDE-files, ...)
73 6 J. Moringen
74 6 J. Moringen
h3. Program Names
75 6 J. Moringen
76 2 J. Moringen
> Unfortunately, "rsblog" isn't better either ;-)
77 1 J. Moringen
> 
78 1 J. Moringen
> May "stream-log", contracted to "slog", might be something. That also 
79 2 J. Moringen
> describes very well what is required to wade through this data ;-)
80 6 J. Moringen
81 6 J. Moringen
_not discussed_