Можно ли рендерить реалистичные изображения без чисел с плавающей запятой?

Забавно. Начал с отказа от плавающей запятой а в конечном итоге изобрел велосипед — та же плавающая запятая но названная плавающей чертой.

А использование целочисленной артфметики дает выигрыш на современных процессорах?

Жаль что пока что недоступен исходный код. Возникли идеи:

• А что если не ограничивать размерность рациональных чисел? Т.е. числитель и знаменатель будут BigInteger. Конечно, это сильно уменьшит производительность, но повысит точность.
• Можно вообще попробовать реализовать движок рендера на основе аналитических вычислений.

Прочитал первый абзац. А разве числа с плавающей запятой (в машине) иррациональны?

По поводу квадратного корня: диофантово уравнение тут решается простейшим способом, но только в ограниченном числе случаев (и в этих случаях примитивный целочисленный корень из числителя и знаменателя как раз и даст правильное решение!). Проблема в том, что требуется не точное равенство, а приближенное, ведь для иррационального результата требуется найти лучшее рациональное приближение, а не заявить об отсутствии результата.

На самом деле нужно просто взять обычный (т.е. без битовых хаков) алгоритм вычисления квадратного корня, и выполнить его в рациональных числах.

Я быстро реализовал оставшиеся обычные операции (abs, sign, mod, fract, floor, sqrt, и т.д.), которых теоретически было достаточно для получения красивых рациональных рендеров.

Интересно как выглядит сцена с двумя полигонами разного цвета лежащими в одной и той же плоскости при рендере основанном на плавающей черте? Будут ли видны какие либо артефакты присущие double precision?

Моё текущее наивное решение (плохое) брало целочисленный квадратный корень от числителя (с соответствующим округлением), а затем делало то же самое со знаменателем.

Недавно видел что в одной растовой библиотеке реализовали таким образом (со ссылкой на алогритм). Возможно, вам будет любопытно взглянуть

// Reference:
// Brent & Zimmermann, Modern Computer Arithmetic, v0.5.9, Algorithm 1.13
fn sqrt(&self) -> Self {
    if self.is_zero() || self.is_one() {
        return self.clone();
    }

    let guess = BigUint::one() << (self.bits() / 2 + 1);

    let mut u = guess;
    let mut s: BigUint;

    loop {
        s = u;
        let q = self / &s;
        let t: BigUint = &s + q;
        u = t >> 1;

        if u >= s {
            break;
        }
    }

    s
}

Отсюда: https://cel.archives-ouvertes.fr/cel-01500109/document

Что-то я тупанул, мы ведь про дроби говорим, а не про целые… Но думаю имеет смысл взять ту же идею, просто методом Ньютона поискать нужное значение.