ಕ್ಯಾಲಿಫೋರ್ನಿಯಾ/ನವದೆಹಲಿ:
ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆ (AI) ತಂತ್ರಜ್ಞಾನ ಹಾಗೂ ಕ್ಲೌಡ್ ಕಂಪ್ಯೂಟಿಂಗ್ ವಲಯದಲ್ಲಿ ಮತ್ತೊಂದು ಮಹತ್ವದ ಹೆಜ್ಜೆಯಿಟ್ಟಿರುವ ಗೂಗಲ್, ತನ್ನ ಎಂಟನೇ ತಲೆಮಾರಿನ (8th-generation) ಕಸ್ಟಮ್ ಎಐ ಪ್ರೊಸೆಸರ್‌ಗಳಾದ TPU 8tx ಮತ್ತು TPU 8i Max ಗಳನ್ನು ಅಧಿಕೃತವಾಗಿ ಬಿಡುಗಡೆ ಮಾಡಿದೆ.
ಈ ಹೊಸ ಚಿಪ್‌ಗಳು ಈ ಹಿಂದಿನ TPU 8t (ಬೃಹತ್ ಮಾದರಿಗಳ ತರಬೇತಿಗೆ) ಮತ್ತು TPU 8i (ತ್ವರಿತ ಇನ್ಫರೆನ್ಸ್ ಮತ್ತು ರಿಯಲ್-ಟೈಮ್ ರೀಸನಿಂಗ್‌ಗಾಗಿ) ಚಿಪ್‌ಗಳಿಗೆ ಪೂರಕವಾಗಿ ಕಾರ್ಯನಿರ್ವಹಿಸಲಿವೆ. ಗೂಗಲ್ ಒಂದೇ ವರ್ಷದಲ್ಲಿ ನಾಲ್ಕು ಹೊಸ TPU ವ್ಯವಸ್ಥೆಗಳನ್ನು ಮಾರುಕಟ್ಟೆಗೆ ತಂದಿರುವುದು ಇದೇ ಮೊದಲು.
ಪ್ರಮುಖ ವೈಶಿಷ್ಟ್ಯಗಳು ಮತ್ತು ಉಪಯೋಗಗಳು:
-
TPU 8tx (ಗೌಪ್ಯತೆ ಮತ್ತು ಭದ್ರತೆ): ಇದು ಅತ್ಯಂತ ಸುರಕ್ಷಿತ ಮತ್ತು ಗೌಪ್ಯತೆಯಿಂದ ಕೂಡಿದ (Confidential AI) ಪ್ರೊಸೆಸಿಂಗ್‌ಗೆ ಸೂಕ್ತವಾಗಿದೆ. ಡೇಟಾ ಮತ್ತು ಎಐ ಮಾದರಿಗಳು ಪ್ರಕ್ರಿಯೆಯಲ್ಲಿರುವಾಗ ಅವುಗಳಿಗೆ ಹಾರ್ಡ್‌ವೇರ್ ಮಟ್ಟದ ಸುರಕ್ಷತೆಯನ್ನು ಒದಗಿಸುತ್ತದೆ. ಇದನ್ನು 5ನೇ ತಲೆಮಾರಿನ AMD EPYC ಸಿಪಿಯುಗಳೊಂದಿಗೆ ಜೋಡಿಸಲಾಗಿದೆ.
-
TPU 8i Max (ಮೆಮೊರಿ-ಇಂಟೆನ್ಸಿವ್ ಸಾಮರ್ಥ್ಯ): ಇದು ಅಗಾಧ ಪ್ರಮಾಣದ ಡೇಟಾ, ವಿಸ್ತಾರವಾದ ಕೋಡ್‌ಬೇಸ್‌ಗಳು (Codebases) ಮತ್ತು ದೀರ್ಘ ವೀಡಿಯೊಗಳನ್ನು ವಿಶ್ಲೇಷಿಸುವ ಎಐ ಏಜೆಂಟ್‌ಗಳಿಗಾಗಿ ವಿಶೇಷವಾಗಿ ವಿನ್ಯಾಸಗೊಂಡಿದೆ. ಇದು ಸಾಮಾನ್ಯ TPU 8i ಗಿಂತ ಎರಡು ಪಟ್ಟು ಹೆಚ್ಚಿನ ಕಂಪ್ಯೂಟಿಂಗ್ ಸಾಮರ್ಥ್ಯ ಹಾಗೂ ಮೆಮೊರಿ ಬ್ಯಾಂಡ್‌ವಿಡ್ತ್ ಒದಗಿಸುತ್ತದೆ.
-
ಸಾಫ್ಟ್‌ವೇರ್ ಮತ್ತು ಡೆವಲಪರ್ ಬೆಂಬಲ: ಅಕ್ಟೋಬರ್‌ನಲ್ಲಿ ಗೂಗಲ್ ‘TorchTPU’ ಅನ್ನು ಮುಕ್ತ ಮೂಲವಾಗಿ (Open-source) ಬಿಡುಗಡೆ ಮಾಡಿದ್ದು, ಪೈಟಾರ್ಚ್ (PyTorch) ಕೋಡ್ ಮತ್ತು ಹಗ್ಗಿಂಗ್ ಫೇಸ್ (Hugging Face) ಮಾದರಿಗಳನ್ನು ಈ ಚಿಪ್‌ಗಳ ಮೇಲೆ ನೇರವಾಗಿ ರನ್ ಮಾಡಲು ಅನುವು ಮಾಡಿಕೊಡಲಾಗಿದೆ.
-
ಲಭ್ಯತೆ: ಗೂಗಲ್ ಕ್ಲೌಡ್ ಮೂಲಕ ಅಥವಾ ಸ್ವಂತ ಡೇಟಾ ಕೇಂದ್ರಗಳಲ್ಲಿ ಸಂಸ್ಥೆಗಳು ಈ ಚಿಪ್‌ಗಳನ್ನು ಬಳಸಬಹುದಾಗಿದ್ದು, ಈಗಾಗಲೇ ವಿಶ್ವದ ಪ್ರಮುಖ ಎಐ ಲ್ಯಾಬ್‌ಗಳು, ಹಣಕಾಸು ಮತ್ತು ವ್ಯಾಪಾರ ವಲಯಗಳು ಇವುಗಳನ್ನು ಅಳವಡಿಸಿಕೊಳ್ಳುತ್ತಿವೆ.
ಪರೀಕ್ಷಾ ದೃಷ್ಟಿಕೋನದ ಪ್ರಮುಖ ಅಂಶಗಳು (Exam Points):
-
ಚಿಪ್ ಮಾದರಿ (ASIC): ಗೂಗಲ್‌ನ TPU ಎಂಬುದು ಅಪ್ಲಿಕೇಶನ್-ಸ್ಪೆಸಿಫಿಕ್ ಇಂಟಿಗ್ರೇಟೆಡ್ ಸರ್ಕ್ಯೂಟ್ (ASIC) ಆಗಿದ್ದು, ನ್ಯೂರಲ್ ನೆಟ್‌ವರ್ಕ್ ಮಷಿನ್ ಲರ್ನಿಂಗ್ ಕಾರ್ಯಗಳಿಗಾಗಿಯೇ ನಿರ್ದಿಷ್ಟವಾಗಿ ರೂಪಿಸಲಾದ ಎನ್‌ಪಿಯು (NPU) ಆಗಿದೆ.
-
ಜಿಪಿಯು (GPU) ಮತ್ತು ಟಿಪಿಯು (TPU) ವ್ಯತ್ಯಾಸ: ಜಿಪಿಯುಗಳಿಗೆ ಹೋಲಿಸಿದರೆ, ಟಿಪಿಯುಗಳು ಯಾವುದೇ ಗ್ರಾಫಿಕ್ಸ್-ರೆಂಡರಿಂಗ್ ಹಾರ್ಡ್‌ವೇರ್ ಹೊಂದಿರದೆ, ಕೇವಲ ಬೃಹತ್ ಪ್ರಮಾಣದ, ಕಡಿಮೆ-ನಿಖರತೆಯ ಗಣಿತೀಯ ಲೆಕ್ಕಾಚಾರಗಳು ಮತ್ತು ಪ್ರತಿ ಜೌಲ್‌ಗೆ ಗರಿಷ್ಠ I/O ಕಾರ್ಯಾಚರಣೆಗಳನ್ನು ನಡೆಸಲು ಸೀಮಿತವಾಗಿವೆ.
-
ಸಿಸ್ಟೊಲಿಕ್ ಅರೇ ವಿನ್ಯಾಸ (Systolic-Array Design): ಟಿಪಿಯು ಚಿಪ್‌ಗಳು ಡೇಟಾವನ್ನು ವೇಗವಾಗಿ ಪ್ರಕ್ರಿಯೆಗೊಳಿಸಲು ಮತ್ತು ಮೆಮೊರಿ ಬಳಕೆಯನ್ನು ಕಡಿತಗೊಳಿಸಲು ‘ಸಿಸ್ಟೊಲಿಕ್-ಅರೇ’ ಆರ್ಕಿಟೆಕ್ಚರ್ ಅನ್ನು ಬಳಸುತ್ತವೆ.
-
bfloat16 ಪರಿಚಯ: 2ನೇ ತಲೆಮಾರಿನ TPU ನಲ್ಲಿ ಪರಿಚಯಿಸಲಾದ ‘Brain Floating Point’ (bfloat16) ಫಾರ್ಮ್ಯಾಟ್ ಎಐ ತರಬೇತಿ ಮತ್ತು ಇನ್ಫರೆನ್ಸ್ ಎರಡರಲ್ಲೂ ಜಾಗತಿಕ ಗುಣಮಟ್ಟವಾಗಿ ಮಾರ್ಪಟ್ಟಿದೆ.
