0731-88575016

详细内容

竞技宝官网app·使用 GPU 加速的 nvImageCodec 推

时间发布时间:2024-09-08 10:40:52 来源:竞技宝app下载官网 作者:竞技宝官网地址     

  通过 GPU 加速的 nvJPEG2000 库,踏上在 AWS HealthImaging 中提高吞吐量和降低医疗影像解密成本的旅程,代表着在云环境中实现运营效率的一大步。这些创新有望节省大量成本,预测表明此类工作负载的潜在成本降低总计数亿美元。

  JPEG 2000 的实施要面对相当大的复杂性,因为早期遇到的互操作性问题阻碍了不同系统之间的无缝整合。然而,高吞吐量 JPEG 2000(HTJ2K)编码系统的出现代表了图像压缩技术的重大进展。JPEG 2000 标准的第 15 部分概述的 HTJ2K 利用更有效的 FBCOT(优化截断的快速块编码)替代原始块编码算法 EBCOT(优化截断的嵌入式块编码),以提高吞吐量。

  这项新标准解决了解码速度的限制,并为 JPEG 2000 在医学影像领域更广泛地应用打开了大门。HTJ2K 同时支持无损压缩和有损压缩,在保留关键医疗细节和实现高效存储之间实现了平衡。具有任意宽度和高度的灰度图和彩色图像以及每个通道多达 16 位的支持,展示了 HTJ2K 的适应性。新标准对分解级别没有限制,支持广泛的选项。

  随着 GPU 加速技术的进步,nvJPEG2000 进一步提高了 HTJ2K 的解码性能。这种进步释放了 JPEG 2000 在医学影像处理中的真正潜力,为医疗健康提供商、研究人员和开发人员提供了可行且高效的解决方案。nvJPEG2000 提供一个 CAPI ,包括用于解码单个图像的 nvjpeg2kDecode 和用于解码图像中特定图块的 nvjpeg2kDecodeTile 等函数。该库提供了:

  为了确保可用性、高性能以及生产准备,本文将探讨如何将 HTJ2K 解码与MONAI框架结合起来。MONAI 是一种专为医学影像分析设计的框架。MONAI Deploy App SDK 提供高性能功能,并有助于在医学影像 AI 应用程序中进行调试。本文还深入探讨了使用 AWS HealthImaging、MONAI 和 nvJPEG2000 进行医学影像处理所带来的成本效益。

  得益于无损 HTJ2K 编码和 AWS 高性能网络主干,AWS HealthImaging 提供亚秒级图像检索,并可快速访问云中图像。它与工作流无关,可无缝集成到现有的医学成像工作流中。它符合 DICOM 标准,确保在医学影像通信中具有互操作性并符合行业标准。该服务提供本地 API,可实现可扩展和快速的图像提取,以适应不断增长的医学影像数据。

  为进一步增强图像解码性能,AWS HealthImaging 专门利用NVIDIA nvJPEG2000 库支持 GPU 加速。此 GPU 加速可确保快速高效地对医学影像进行解码,使医疗健康提供商能够以前所未有的速度访问关键信息。HTJ2K 解码的支持功能包含广泛的选项,可适应不同的图像类型、大小、压缩需求和解码场景,使其成为各种图像处理应用程序的通用选择。这些功能包括:

  在此演示中,我们展示了 AWS HealthImaging 的使用情况。我们演示了利用 GPU 加速接口使用 SageMaker 多模型端点进行图像解码的过程。

  首先,将您的 DICOM 图像暂存到 Amazon S3 存储桶中。AWS HealthImaging 与合作伙伴产品集成,可提供各种工具,以在指定的 S3 存储桶中上传和整理 DICOM 图像数据。您可以在 AWS 开放数据计划公开的 S3 存储桶中找到包含合成医学成像数据的开放数据集,例如合成一致性。

  在 S3 存储桶中暂存 DICOM 影像后,下一步是调用原生 API 将 DICOM 数据导入 AWS HealthImaging。此托管 API 有助于实现流畅的自动化流程,从而确保您的医学影像数据得到高效传输,并为进一步优化做好准备。

  成功导入后,从 AWS HealthImaging 中检索 DICOM 标头,解压缩数据 Blob,并将这些 JSON 对象写入数据湖 S3 存储桶。从这里,您可以利用 AWS 数据湖分析工具,例如,用 Amazon Glue 生成数据目录,用 Amazon Athena 执行临时 SQL 查询,以及用 Amazon QuickSight 来构建数据可视化控制面板。您还可以将图像元数据与其他健康数据模式相结合,以执行多模态数据分析。

  借助托管 API,访问将成为无缝体验。AWS HealthImaging 可让您以亚秒级的速度以高性能和精细的方式访问成像数据。

  AWS 合作伙伴的 PACS 查看器和 VNA 云端解决方案可以将图像查看应用程序与 AWS HealthImaging 集成。这些应用程序经过优化,可提供用户友好且高效的体验,以大规模查看和分析医学影像。AWS 合作伙伴 PACS 的示例包括 Allina Health案例研究、Visage Imaging 和 Visage AWS。

  在典型的 AI 或 ML 工作流(CPU 解码路径)中,HTJ2K 编码的像素帧将加载到 CPU 显存中,然后解码并转换为 CPU 中的张量。GPU 可以复制和处理这些像素。nvJPEG2000 可以从 AWS HealthImaging 中提取已编码的像素,并直接将其解码为 GPU 显存(GPU 解码路径),而 MONAI 具有内置功能,可将图像数据转换为可随时输入到深度学习模型中的张量。与 CPU 解码方法相比,它的路径更短,如图 2 所示。

  此外,nvJPEG2000 的 GPU 加速可显著提高解码性能,降低延迟并增强整体响应速度。该库与 Python 无缝集成,为开发者提供熟悉且强大的环境来执行图像解码任务。

  本实验中,我们使用了合成一致性数据集。对于不同大小的数据集,GPU 加速表现出相似的加速系数。上面标记的图像集包含脑 MRI 和像素帧。这些像素帧表示 DICOM MRI 图像,并以压缩的 HTJ2K 数据格式进行编码。

  AWS HealthImaging 与先进的图像解码技术相结合,不仅能提高效率,还能为医疗保健组织提供经济高效的解决方案。所提议的解决方案具有巨大的端到端成本优势,特别是考虑到通过 GPU 加速实现的惊人吞吐量加速。

  在解码性能方面,我们使用 OpenJPEG 进行了比较分析。对于 CT1 16 位 512×512 灰度图像,我们注意到不同 GPU 配置的速度显著提高了 2.5 倍。此外,对于尺寸为 3064×4774 的 MG1 16 位灰度图像,我们在各种 GPU 设置中实现了惊人的 8 倍速度提升。

  为了全面评估年度云成本和能源使用情况,我们根据标准分割工作负载进行计算。此工作负载涉及每分钟向 MONAI 服务器平台上传 500 个 DICOM 文件。我们的成本估算目前仅考虑 T4 GPU,预计未来将使用其他GPU。我们假设使用 Amazon EC2 G4 实例。

  在这种情况下,在单个 T4 GPU 上处理 DICOM 工作负载的年度成本估计约为 7400 万美元,而与 CPU 流程相关的成本为 3.454 亿美元。这意味着云支出大幅减少,预测表明此类医院工作负载可能会节省数亿美元。

  在单个 T4 GPU 上,与 CPU 基准相比,端到端吞吐量加速大约快 5 倍。在新的 GPU 上,这种加速进一步提升到快 12 倍左右。当使用多个 GPU 实例时,性能几乎呈线 GPU 时,加速大约达到 19 倍。

  考虑到对环境的影响,能效是数据中心处理大型工作负载的关键因素。我们的计算表明,使用基于 GPU 的相应硬件时,以 GWh 为单位的年能耗显著降低。具体来说,单个系统的能耗约为 CPU 服务器的十二分之一。

  对于类似于示例 DICOM 视频场景(每分钟 500 小时的视频)的工作负载,预计每年可节省数百 GWh 的能源。这些能源节省不仅具有经济效益,而且还具有重大的环境意义。温室气体排放量的减少量相当可观,约等于每年避免数万辆乘用车的排放,每辆车每年行驶约 11000 英里。

  NVIDIA 提供 nvImageCodec 库,为开发者提供用于图像解码任务的可靠高效解决方案。nvImageCodec 利用 NVIDIA GPU 的强大功能,可提供加速解码性能,非常适合需要高吞吐量和低延迟的应用程序。

  获取 nvImageCodec 非常简单。您可以从以下来源获取:PyPI、NVIDIA 开发者专区,或是直接从 GitHub 库获取。下载后,您可以开始尝试编码和解码示例,以提高图像编管线的效率。

  以下是一个 Python 示例,展示了使用 nvImageCodec 库进行批量图像解码。此示例说明了如何使用 nvImageCodec 对 HTJ2K 图像进行批量解码。指定文件夹中的所有图像均以无损 HTJ2K 格式压缩,精度为 16 位。输出确认所有医学影像均已成功解码,且无损质量(图 6)。

  以下是一个 Python 示。


竞技宝官网app
电话:13973131243
邮箱:dingdangang@douyin.com
地址:竞技宝官网app
扫一扫浏览手机站