-
Nguyên nhân hàng trăm người tìm kiếm cụ bà 89 tuổi ở Đồng Nai, gia đình phát thông báo khẩn -
Nóng: Concert BIGBANG tại Hà Nội chính thức công bố sơ đồ sân khấu và giá vé, cao nhất chạm mốc 10,5 triệu đồng -
Bão Dolphin giật cấp 17 và đi rất nhanh, hoàn lưu ảnh hưởng đến Việt Nam ra sao? -
Nhật Bản phát hiện thi thể cụ bà 91 tuổi trong rừng, điều tra sau lời khai của người đàn ông Việt Nam -
328 thí sinh Chuyên Tuyên Quang có bị hủy kết quả thi như 5 thí sinh gian lận ở Quảng Trị? -
"Mùa hè năm ấy" tập 1: Khánh say khướt đòi dắt gái karaoke về ra mắt, mẹ xổng lưng trách mắng bạn thân -
Bé trai 6 tuổi bị chó thả rông cắn trọng thương khi đang chơi, chính quyền khẩn trương truy tìm chủ nuôi -
"Người Nhện" áp đảo phòng vé Việt, vượt 50 tỷ đồng chỉ sau ngày đầu ra rạp -
Không khám sức khỏe định kỳ cho người lao động có thể bị phạt tới 75 triệu đồng từ 10/9 -
Tuyển Việt Nam gặp Indonesia: Thế cửa dưới có thể trở thành lợi thế của HLV Kim Sang Sik
Công nghệ
15/01/2024 21:00Muốn có AI trên smartphone thì Samsung phải bổ sung ít nhất 20GB RAM mới 'ngon', nhưng Apple có chiêu khác
AI đã xuất hiện từ lâu và cũng được áp dụng trên smartphone nhiều năm trước, nhưng 2024 sẽ là năm mà AI tạo sinh (Generative AI) lên ngôi. AI này dự kiến sẽ được nhiều hãng smartphone lớn sử dụng và không chỉ thông qua nền tảng đám mây, xử lý tác vụ AI ngay trên thiết bị là điều mà các "ông lớn" ngành công nghệ đang hướng tới.
Sự hỗ trợ này đã được tích hợp vào một số chipset sẽ phát hành trong năm nay, bao gồm Snapdragon 8 Gen 3 và Exynos 2400. Tuy nhiên, theo một báo cáo mới từ Macquarie, việc xử lý AI trên thiết bị không chỉ đòi hỏi một con chip mạnh mẽ mà sẽ cần nhiều RAM hơn đáng kể so với trước đây. Apple cũng là một trong những công ty được đồn đoán sẽ tham gia cuộc chiến AI, nhưng hãng lại có một cách tiếp cận khác với thế giới Android.
AI khả năng càng cao, càng đòi hỏi nhiều RAM
Khi AI trở nên phổ biến hơn trên smartphone, yêu cầu về phần cứng để hỗ trợ các tính năng nâng cao này cũng ngày càng tăng. Smartphone Android có khả năng xử lý AI trên thiết bị có thể yêu cầu RAM lên tới 20GB để đảm bảo hoạt động mượt mà hơn. Đây là mức tăng đáng kể so với tiêu chuẩn RAM 8GB hiện tại ở hầu hết smartphone Android hiện nay.

Như bạn có thể thấy trong biểu đồ trên, để quá trình tạo hình ảnh bằng AI trên thiết bị hoạt động hoàn hảo, điện thoại Android sẽ cần ít nhất 12 GB RAM, đây vẫn là điều mà chúng ta thường thấy trên những smartphone cao cấp hay thậm chí cận cao cấp. Nhưng đối những máy có trợ lý AI xử lý ngay trên thiết bị, cùng với các tính năng khác, sẽ cần tới 20 GB RAM để đảm bảo hoạt động mượt mà hơn.
Lý do cho sự gia tăng này là do việc sử dụng AI trên thiết bị ngày càng tăng, cho phép các tác vụ AI được xử lý cục bộ trên điện thoại thay vì trên đám mây. Điều này mang đến nhiều lợi ích, bao gồm cải thiện hiệu suất, độ trễ thấp hơn và nâng cao quyền riêng tư. Tuy nhiên, nó cũng đòi hỏi nhiều sức mạnh xử lý và bộ nhớ hơn, do đó cần nhiều RAM.
Cách xử lý AI của Apple
Trong khi Android đang tập trung vào việc tăng RAM để hỗ trợ AI trên thiết bị thì Apple lại đang thực hiện một cách tiếp cận khác với AI tạo sinh. Năm 2024, nhiều nguồn tin chỉ ra rằng Apple sẽ tham gia "cuộc chiến AI" với một "siêu Siri" và hệ điều hành iOS 18 tập trung vào AI, công ty cũng được cho là chi "hàng triệu USD" mỗi ngày để phát triển AI.

Theo thông tin bên lề, Apple tập trung vào việc tích hợp Generative AI vào hệ sinh thái của mình để nâng cao trải nghiệm người dùng. Nhưng nếu AI đòi hỏi quá nhiều RAM, thì liệu iPhone có đủ sức hỗ trợ hay không, vì thiết bị này có RAM ít hơn hầu hết điện thoại Android cùng phân khúc.
Hóa ra, Apple đã có một cách riêng. Các nhà nghiên cứu của Apple gần đây đã xuất bản một báo cáo có tên "LLM in a Flash: Efficient Large Language Model Inference with Limited Memory", mô tả cách sử dụng điểm mạnh của bộ lưu trữ flash nhằm giảm gánh nặng cho bộ nhớ và tăng hiệu suất của Mô hình ngôn ngữ lớn (LLM). Nói cách khác, Apple đang nỗ lực để đảm bảo LLM chất lượng cao có thể chạy hoàn toàn trên iPhone.
Phương pháp của các kỹ sư Apple đã khéo léo vượt qua giới hạn bằng cách sử dụng hai kỹ thuật chính giúp giảm thiểu việc truyền dữ liệu và tối đa hóa bộ nhớ flash:
Windowing: Thay vì tải dữ liệu mới mỗi lần, mô hình AI sẽ sử dụng lại một số dữ liệu đã được xử lý. Điều này làm giảm nhu cầu tìm nạp bộ nhớ liên tục, giúp quá trình xử lý trên thiết bị nhanh hơn và mượt mà hơn.
Row-Column Bundling: Bằng cách nhóm dữ liệu hiệu quả hơn, dữ liệu có thể được đọc nhanh hơn từ bộ nhớ flash, tăng tốc khả năng đọc hiểu và tạo ngôn ngữ của AI.

Theo các nhà nghiên cứu, sự kết hợp của các phương pháp này cho phép các mô hình AI tận dụng tốt gấp đôi bộ nhớ khả dụng của iPhone, mở ra khả năng tăng tốc gấp 4-5 lần trên bộ xử lý (CPU) tiêu chuẩn và nhanh hơn 20-25 lần trên bộ xử lý đồ họa (GPU). Các tác giả viết: "Bước đột phá này đặc biệt quan trọng để triển khai LLM tiên tiến trong môi trường hạn chế về tài nguyên, từ đó mở rộng khả năng ứng dụng và khả năng tiếp cận của chúng".
Cùng với hệ sinh thái khép kín của mình, Apple dường như đã tìm ra cách để Generative AI hoạt động trên iPhone mà không phải tăng dung lượng RAM như cách Android thực hiện.
Trong năm nay, AI rõ ràng sẽ đóng một vai trò quan trọng trong việc định hình tương lai của smartphone. Mặc dù Android và Apple đã chọn những con đường khác nhau nhưng cả hai đều hướng đến nâng cao trải nghiệm người dùng thông qua sức mạnh của AI. Samsung sẽ ra mắt dòng Galaxy S24 với "Galaxy AI" trong những ngày tới, iPhone thế hệ tiếp theo sẽ ra mắt trong cuối năm nay cùng các tính năng AI, hãy chờ xem liệu thế giới smartphone sẽ thay đổi như thế nào trong thời đại AI này.
Theo Tuấn Nguyễn (Đời Sống Pháp Luật)
- Nguyên nhân hàng trăm người tìm kiếm cụ bà 89 tuổi ở Đồng Nai, gia đình phát thông báo khẩn (52 phút trước)
- Nóng: Concert BIGBANG tại Hà Nội chính thức công bố sơ đồ sân khấu và giá vé, cao nhất chạm mốc 10,5 triệu đồng (59 phút trước)
- Muốn tha thứ cho chồng sau vụ ngoại tình, người phụ nữ chết lặng khi mẹ đổi mật khẩu căn hộ, kiên quyết không cho con rể quay về (1 giờ trước)
- Phạt 7 năm tù đối với Đoàn Bảo Châu về tội tuyên truyền chống Nhà nước (1 giờ trước)
- Lời khai của nam thanh niên bịa việc bị cướp dùng dao, kim tiêm khống chế lấy 40 triệu? Cái kết đắng (1 giờ trước)
- Nam thần TVB từng được coi là "chồng quốc dân" giờ sống ra sao? (1 giờ trước)
- Uống nước đậu đen rang mùa hè: 3 tác hại nếu dùng sai cách, ai cần thận trọng? (1 giờ trước)
- Hai trực thăng cứu hỏa va chạm giữa không trung khi làm nhiệm vụ chống cháy rừng ở Hy Lạp (1 giờ trước)
- Cha mẹ càng "lười" đúng 3 việc này, con càng sớm tự lập, lớn lên bản lĩnh và dễ thành công (1 giờ trước)
- Bão Dolphin giật cấp 17 và đi rất nhanh, hoàn lưu ảnh hưởng đến Việt Nam ra sao? (1 giờ trước)