Предложения в которых упоминается "плавающая запятая"
Особенно хорошо шейдерным блокам (базовым компонентам графических ядер) удаются многопотоковые вычисления с плавающей запятой.
Она способна обрабатывать 22-х разрядные двоичные числа с плавающей запятой, обладает памятью на 64 числа, и функционирует на механической (рычажной) основе.
Z1 первое в мире вычислительное устройство, использующее двоичную логику и применяющее арифметику с плавающей запятой.
В любом случае современные суперкомпьютеры уже производят 1015 операций с плавающей запятой, то есть обладают сопоставимой с мозгом вычислительной силой.
Поддержка вычислений с плавающей запятой не загружена.
В некоторых сопроцессорах 1387 есть ошибки, например, ранние чипы ULSI-387 вызывают зависание при вычислениях с плавающей запятой.
Также были улучшены характеристики уже традиционных блоков и технологий, например, динамического исполнения команд, вычислений с плавающей запятой, обработки команд, используемых в мультимедийных приложениях, потоковых SIMD-расширений SSE2, а кэш-память 2 уровня получила более совершенную систему передачи данных.
Микропроцессор непосредственно не выполнял команд для работы с числами с плавающей запятой.
Она была способна обрабатывать 22-х разрядные двоичные числа с плавающей запятой, и обладала памятью на 64 числа.
Каждый параметр записи должен иметь тип Char, один из целочисленных типов (Byte, Shortlnt, Word, Longint, Cardinal), один из типов с плавающей запятой (Single, Real, Double, Extended, Currency), один из строковых типов (PChar, AisiString, ShortString), или один из логических типов (Boolean, Bool).
Простыми (primitive), или примитивным типами данных, являются предопределённые типы: целое Integer, строка String, логический тип Boolean, числа с плавающей запятой Real и неограниченные натуральные числа UnlimitedNatural, которые используются для моделирования неопределённого количества элементов, например, экземпляров класса, участвующих в ассоциации.
В ближайшее время ожидается компьютер с 1018 флопсов, то есть 1018 операций с плавающей запятой в секунду.
— Написал отличную версию бейсика, но до версии бейсика, способной работать с числами с плавающей запятой, которая нам была нужна, у него руки так и не дошли.