The Floating Point Engine/de

Todo-List / State:

• Translation: completed
• Content completely cleared: open, see discussion
• Expression and didactics checked: completed; but uncleared content yet open
• Spelling checked: open

Ready for publishing: no

---

RawTherapee rechnet grundsätzlich in hoch genauer 32-Bit-Gleitkomma-Rechnung. Ganz im Gegensatz zu 16-Bit-Integer-Berechnungen, die derzeit immer noch in vielen Anwendungen, wie z.B. im Raw-Konverter DCRaw verwendet werden. Das Gleitkommaverfahren stellt sicher, dass unabhängig vom Absolutwert, z.B. eines Pixelhelligkeitswertes die Berechnung immer mit der gleichen Zahl signifikanter Stellen ausgeführt wird. Das heißt also, kleine Werte, z.B. dunkle Pixelwerte, werden mit genau so viel Auflösung verrechnet, wie sehr helle Pixel. Durch die 32-Bit-Technik ist dabei die verwendete Auflösung derartig hoch, dass Rundungsfehler selbst bei vielen aufeinanderfolgenden Filterberechnungen (Programmfunktionen) keine im Bild sichtbare Rolle spielen oder irgendwelche Artefakte, Rauschen oder Informationsverluste hinterlassen.

Klassische Raw-Konverter arbeiten mit 16-Bit-integer-Verarbeitung. Das liegt daran, dass bei früheren Prozessorgenerationen die Ganzzahlrechnung weniger Zeit benötigte, als die Gleitkommazahlenrechnung. Die Softwareentwickler waren also bemüht, Auflösung und Rechengeschwindigkeit gegeneinander zu optimieren. Das ist heute nicht mehr notwendig und RawTherapee hat deshalb vollständig auf Gleitkommarechnung umgestellt.

Wenn Du denkst, das die Kamera ja sowieso nur mit 12 bis 14 Bit Auflösung arbeitet, dann vergiss nicht, dass die Filterfunktionen im Programm sehr viele Informationen verwenden, um dann ein Bild in Deiner gewünschten Qualität zu berechnen. Dafür reicht es nicht, mit 16 Bit Festkommawerten zu rechnen. Es ergeben sich sehr kleine, wie sehr große Werte innerhalb des Rechnungsablaufes, die mit 16 Bit dann nicht mehr ausreichend genau abgebilet werden. Bei Gleitkomma passt sich die Auflösung eines Wertes immer automatisch an den Absolutwert dieser Größe an. Und es sind auch keine Tricks des Softwareentwicklers nötig, um in solchen Fällen möglichst wenig Informationen zu verlieren. Bei Gleitkomma ist die Auflösung immer konstant hoch (bezogen auf das Dezimalsystem) und wird mit jedem Rechenschritt wieder neu auf ihren auflösungstechnischen Maximalwert skaliert.

The downside is the RAM space floating point numbers require, which is exactly twice that of 16-bit integer. Together with the ever-increasing megapixel count of digital cameras a 32-bit operating system can quite easily run out of memory and cause RawTherapee to crash. Therefore a 64-bit operating system is highly advised for stability. If you have problems running RT on a 32-bit system, try the following:

• As a general rule, you should avoid having folders with too many raw photos in them as each photo takes up memory when displayed in RawTherapee's File Browser tab. Try not to have more than 100 photos per folder.
• RawTherapee uses more RAM while you are using the File Browser tab, so avoid opening that tab while you are processing photos.
• Use 4-Gigabyte Tuning in Windows. See "4-Gigabyte Tuning: BCDEdit and Boot.ini" for an explanation of what it is, and find out how to do it by reading the guide "How to set the /3GB Startup Switch in Windows XP and Vista".
• Close other programs while working in RawTherapee.
• Close the Image Editor tab when you're done editing to free up memory.
• Turn off "auto-start" in the batch queue. Only add photos to the batch queue once you are done editing all of them, and then start it. Use the batch queue, do not use the immediate save button.
• Change to a directory with few or no photos in it before starting the batch queue.
• You can free some memory by deleting (or moving to a different folder, or renaming to something like .unusedicc) all the .icc profiles in iccprofiles\input for the cameras you do not use.
• Assure that the Dark-frames Directory and the Flat-fields Directory in Preferences do not point to folders containing raw-files if you do not use Dark-frames or Flat-fields.
• The most memory-intensive tools are Tone Mapping, Contrast by Detail Levels and Highlight Reconstruction using "Color Propagation", so you might need to avoid using them if your machine and operating system are not up to standard.