Lines Matching refs:qnan

227         const uint64_t qnan = single ? 0x7fc00000 : ULL(0x7ff8000000000000);
230 val = bitsToFp(qnan, junk);
232 val = bitsToFp(fpToBits(op1) | qnan, junk);
257 const uint64_t qnan = single ? 0x7fc00000 : ULL(0x7ff8000000000000);
260 const bool signal1 = nan1 && ((fpToBits(op1) & qnan) != qnan);
261 const bool signal2 = nan2 && ((fpToBits(op2) & qnan) != qnan);
263 val = bitsToFp(qnan, junk);
265 val = bitsToFp(fpToBits(op1) | qnan, junk);
267 val = bitsToFp(fpToBits(op2) | qnan, junk);
763 const uint32_t qnan = 0x7fc00000;
767 if ((fpToBits(op) & qnan) != qnan)
769 return bitsToFp(qnan, junk);
778 return bitsToFp(qnan, junk);
845 const uint32_t qnan = 0x7fc00000;
849 if ((fpToBits(op) & qnan) != qnan)
851 return bitsToFp(qnan, junk);
914 const uint64_t qnan =
918 const bool signal1 = nan1 && ((fpToBits(op1) & qnan) != qnan);
919 const bool signal2 = nan2 && ((fpToBits(op2) & qnan) != qnan);
922 dest = bitsToFp(qnan, junk);
924 dest = bitsToFp(fpToBits(op1) | qnan, junk);
926 dest = bitsToFp(fpToBits(op2) | qnan, junk);
969 const uint64_t qnan =
974 const bool signal1 = nan1 && ((fpToBits(op1) & qnan) != qnan);
975 const bool signal2 = nan2 && ((fpToBits(op2) & qnan) != qnan);
976 const bool signal3 = nan3 && ((fpToBits(op3) & qnan) != qnan);
978 dest = bitsToFp(qnan, junk);
980 dest = bitsToFp(fpToBits(op1) | qnan, junk);
982 dest = bitsToFp(fpToBits(op2) | qnan, junk);
984 dest = bitsToFp(fpToBits(op3) | qnan, junk);
1046 const uint64_t qnan =
1050 const bool signal1 = nan1 && ((fpToBits(op1) & qnan) != qnan);
1051 const bool signal2 = nan2 && ((fpToBits(op2) & qnan) != qnan);
1053 dest = bitsToFp(qnan, junk);
1055 dest = bitsToFp(fpToBits(op1) | qnan, junk);
1057 dest = bitsToFp(fpToBits(op2) | qnan, junk);
1116 const uint64_t qnan =
1120 dest = bitsToFp(qnan, junk);
1122 dest = bitsToFp(fpToBits(op1) | qnan, junk);