Метка: Точность

Во второй части мы говорили о роли матричного умножения в линейной алгебре, машинном обучении, графике и поиске, а также о производительности, библиотеках, выборе между процессором и видеокартой и влиянии типов данных. Теперь переходим к точности, практическим сценариям, частым ошибкам и малоизвестным свойствам этой операции. 14. Точность, устойчивость и числовые ошибки 14.1. Ошибки округления и накопление…