Когда на улице такая жара, самое лучшее, что можно сделать — пойти купаться.
Поэтому сегодня мы изучим природу плавающих запятых 🐬. Посмотрим, почему от них так зависит скорость и точность вычислений, стоит ли использовать для их этого CPU. Что внутри 🔷 О числах с плавающей запятой. 🔷 Что такое float64, float32 и float16. 🔷 Где применяются числа с плавающей запятой. 🔷 Практическое сравнение: float16 vs float64. 🔷 Что такое AVX / AVX2 / AVX-512. https://cutt.ly/yrAMrc1J
VK Cloud
Когда на улице такая жара, самое лучшее, что можно сделать — пойти купаться.
Поэтому сегодня мы изучим природу плавающих запятых 🐬. Посмотрим, почему от них так зависит скорость и точность вычислений, стоит ли использовать для их этого CPU.
Что внутри
🔷 О числах с плавающей запятой.
🔷 Что такое float64, float32 и float16.
🔷 Где применяются числа с плавающей запятой.
🔷 Практическое сравнение: float16 vs float64.
🔷 Что такое AVX / AVX2 / AVX-512. https://cutt.ly/yrAMrc1J