INT4

对于 AI 推断，在提供与浮点媲美的精度的同时，int8 的性能优于浮点。然而在资源有限的前提下，int8 不能满足性能要求，int4 优化是解决之道。通过 int4 优化，与现有的 int8 解决方案相比，赛灵思在实际硬件上可实现高达 77% 的性能提升。

INT8提供了比浮点数更好的性能，精度可与AI推论相比。但是，如果INT8在有限的资源下无法满足所需的性能，则INT4优化就是答案。通过INT4优化，与当前的INT8解决方案相比，Xilinx可以在实际硬件上实现高达77％的性能提升。