ಅಪ್‌ಡೇಟ್: ಆಪಲ್ ಸರ್ವರ್‌ನ ಎರಡನೇ ತಪಾಸಣೆಯನ್ನು ಪ್ರಸ್ತಾಪಿಸಿದೆ ಮತ್ತು ವೃತ್ತಿಪರ ಕಂಪ್ಯೂಟರ್ ವಿಷನ್ ಕಂಪನಿಯು ಇದನ್ನು ವಿವರಿಸಬಹುದಾದ ಸಾಧ್ಯತೆಯನ್ನು ಕೆಳಗೆ "ಎರಡನೇ ತಪಾಸಣೆ ಹೇಗೆ ಕೆಲಸ ಮಾಡಬಹುದು" ನಲ್ಲಿ ವಿವರಿಸಿದೆ.
ಡೆವಲಪರ್‌ಗಳು ಅದರ ಇಂಜಿನಿಯರ್ ಮಾಡಿದ ಭಾಗಗಳನ್ನು ರಿವರ್ಸ್ ಮಾಡಿದ ನಂತರ, ಆಪಲ್ CSAM ಸಿಸ್ಟಮ್‌ನ ಆರಂಭಿಕ ಆವೃತ್ತಿಯನ್ನು ಮುಗ್ಧ ಚಿತ್ರವನ್ನು ಗುರುತಿಸಲು ಪರಿಣಾಮಕಾರಿಯಾಗಿ ಮೋಸಗೊಳಿಸಲಾಗಿದೆ.ಆದಾಗ್ಯೂ, ನಿಜ ಜೀವನದಲ್ಲಿ ಇದು ಸಂಭವಿಸುವುದನ್ನು ತಡೆಯಲು ಹೆಚ್ಚುವರಿ ಸುರಕ್ಷತೆಗಳನ್ನು ಹೊಂದಿದೆ ಎಂದು ಆಪಲ್ ಹೇಳಿದೆ.
ನ್ಯೂರಲ್ ಹ್ಯಾಶ್ ಅಲ್ಗಾರಿದಮ್ ಅನ್ನು ಓಪನ್ ಸೋರ್ಸ್ ಡೆವಲಪರ್ ವೆಬ್‌ಸೈಟ್ ಗಿಟ್‌ಹಬ್‌ಗೆ ಪ್ರಕಟಿಸಿದ ನಂತರ ಇತ್ತೀಚಿನ ಬೆಳವಣಿಗೆ ಸಂಭವಿಸಿದೆ, ಯಾರಾದರೂ ಅದರೊಂದಿಗೆ ಪ್ರಯೋಗಿಸಬಹುದು…
ಕಾಣೆಯಾದ ಮತ್ತು ಶೋಷಿತ ಮಕ್ಕಳಿಗಾಗಿ ರಾಷ್ಟ್ರೀಯ ಕೇಂದ್ರ (NCMEC) ನಂತಹ ಸಂಸ್ಥೆಗಳಿಂದ ತಿಳಿದಿರುವ ಮಕ್ಕಳ ಲೈಂಗಿಕ ನಿಂದನೆ ವಸ್ತುಗಳ ಡೇಟಾಬೇಸ್ ಅನ್ನು ಆಮದು ಮಾಡಿಕೊಳ್ಳುವ ಮೂಲಕ ಎಲ್ಲಾ CSAM ವ್ಯವಸ್ಥೆಗಳು ಕಾರ್ಯನಿರ್ವಹಿಸುತ್ತವೆ.ಡೇಟಾಬೇಸ್ ಅನ್ನು ಚಿತ್ರಗಳಿಂದ ಹ್ಯಾಶ್‌ಗಳು ಅಥವಾ ಡಿಜಿಟಲ್ ಫಿಂಗರ್‌ಪ್ರಿಂಟ್‌ಗಳ ರೂಪದಲ್ಲಿ ಒದಗಿಸಲಾಗಿದೆ.
ಹೆಚ್ಚಿನ ತಂತ್ರಜ್ಞಾನ ದೈತ್ಯರು ಕ್ಲೌಡ್‌ನಲ್ಲಿ ಅಪ್‌ಲೋಡ್ ಮಾಡಿದ ಫೋಟೋಗಳನ್ನು ಸ್ಕ್ಯಾನ್ ಮಾಡಿದರೂ, ಸಂಗ್ರಹಿಸಿದ ಫೋಟೋದ ಹ್ಯಾಶ್ ಮೌಲ್ಯವನ್ನು ಉತ್ಪಾದಿಸಲು ಆಪಲ್ ಗ್ರಾಹಕರ ಐಫೋನ್‌ನಲ್ಲಿ ನ್ಯೂರಲ್ ಹ್ಯಾಶ್ ಅಲ್ಗಾರಿದಮ್ ಅನ್ನು ಬಳಸುತ್ತದೆ ಮತ್ತು ನಂತರ ಅದನ್ನು ಡೌನ್‌ಲೋಡ್ ಮಾಡಿದ CSAM ಹ್ಯಾಶ್ ಮೌಲ್ಯದ ಪ್ರತಿಯೊಂದಿಗೆ ಹೋಲಿಸುತ್ತದೆ.
ನಿನ್ನೆ, ಡೆವಲಪರ್ ಅವರು Apple ನ ಅಲ್ಗಾರಿದಮ್ ಅನ್ನು ರಿವರ್ಸ್ ಇಂಜಿನಿಯರಿಂಗ್ ಮಾಡಿದ್ದಾರೆ ಮತ್ತು GitHub ಗೆ ಕೋಡ್ ಅನ್ನು ಬಿಡುಗಡೆ ಮಾಡಿದ್ದಾರೆ ಎಂದು ಹೇಳಿಕೊಂಡಿದ್ದಾರೆ-ಈ ಹಕ್ಕು Apple ನಿಂದ ಪರಿಣಾಮಕಾರಿಯಾಗಿ ದೃಢೀಕರಿಸಲ್ಪಟ್ಟಿದೆ.
GitHib ಬಿಡುಗಡೆಯಾದ ಕೆಲವೇ ಗಂಟೆಗಳಲ್ಲಿ, ಸಂಶೋಧಕರು ಉದ್ದೇಶಪೂರ್ವಕ ತಪ್ಪು ಧನಾತ್ಮಕ-ಎರಡು ವಿಭಿನ್ನ ಚಿತ್ರಗಳನ್ನು ರಚಿಸಲು ಅಲ್ಗಾರಿದಮ್ ಅನ್ನು ಯಶಸ್ವಿಯಾಗಿ ಬಳಸಿದರು, ಅದು ಒಂದೇ ಹ್ಯಾಶ್ ಮೌಲ್ಯವನ್ನು ಉತ್ಪಾದಿಸುತ್ತದೆ.ಇದನ್ನು ಘರ್ಷಣೆ ಎಂದು ಕರೆಯಲಾಗುತ್ತದೆ.
ಅಂತಹ ವ್ಯವಸ್ಥೆಗಳಿಗೆ, ಯಾವಾಗಲೂ ಘರ್ಷಣೆಯ ಅಪಾಯವಿರುತ್ತದೆ, ಏಕೆಂದರೆ ಹ್ಯಾಶ್ ಸಹಜವಾಗಿ ಚಿತ್ರದ ಅತ್ಯಂತ ಸರಳೀಕೃತ ಪ್ರಾತಿನಿಧ್ಯವಾಗಿದೆ, ಆದರೆ ಯಾರಾದರೂ ಚಿತ್ರವನ್ನು ತ್ವರಿತವಾಗಿ ರಚಿಸಬಹುದು ಎಂಬುದು ಆಶ್ಚರ್ಯಕರವಾಗಿದೆ.
ಇಲ್ಲಿ ಉದ್ದೇಶಪೂರ್ವಕ ಘರ್ಷಣೆ ಕೇವಲ ಪರಿಕಲ್ಪನೆಯ ಪುರಾವೆಯಾಗಿದೆ.ಡೆವಲಪರ್‌ಗಳು CSAM ಹ್ಯಾಶ್ ಡೇಟಾಬೇಸ್‌ಗೆ ಪ್ರವೇಶವನ್ನು ಹೊಂದಿಲ್ಲ, ಇದು ನೈಜ-ಸಮಯದ ವ್ಯವಸ್ಥೆಯಲ್ಲಿ ತಪ್ಪು ಧನಾತ್ಮಕತೆಯ ರಚನೆಯ ಅಗತ್ಯವಿರುತ್ತದೆ, ಆದರೆ ಘರ್ಷಣೆ ದಾಳಿಗಳು ತಾತ್ವಿಕವಾಗಿ ತುಲನಾತ್ಮಕವಾಗಿ ಸುಲಭ ಎಂದು ಸಾಬೀತುಪಡಿಸುತ್ತದೆ.
ಅಲ್ಗಾರಿದಮ್ ತನ್ನದೇ ಆದ ವ್ಯವಸ್ಥೆಯ ಆಧಾರವಾಗಿದೆ ಎಂದು ಆಪಲ್ ಪರಿಣಾಮಕಾರಿಯಾಗಿ ದೃಢಪಡಿಸಿತು, ಆದರೆ ಇದು ಅಂತಿಮ ಆವೃತ್ತಿಯಲ್ಲ ಎಂದು ಮದರ್ಬೋರ್ಡ್ಗೆ ತಿಳಿಸಿದೆ.ಕಂಪನಿಯು ಅದನ್ನು ಗೌಪ್ಯವಾಗಿಡಲು ಎಂದಿಗೂ ಉದ್ದೇಶಿಸಿಲ್ಲ ಎಂದು ಹೇಳಿದೆ.
GitHub ನಲ್ಲಿ ಬಳಕೆದಾರರು ವಿಶ್ಲೇಷಿಸಿದ ಆವೃತ್ತಿಯು ಜೆನೆರಿಕ್ ಆವೃತ್ತಿಯಾಗಿದೆ, iCloud ಫೋಟೋ CSAM ಪತ್ತೆಗೆ ಬಳಸಲಾಗುವ ಅಂತಿಮ ಆವೃತ್ತಿಯಲ್ಲ ಎಂದು Apple ಮದರ್ಬೋರ್ಡ್ಗೆ ಇಮೇಲ್‌ನಲ್ಲಿ ತಿಳಿಸಿದೆ.ಇದು ಅಲ್ಗಾರಿದಮ್ ಅನ್ನು ಸಹ ಬಹಿರಂಗಪಡಿಸಿದೆ ಎಂದು ಆಪಲ್ ಹೇಳಿದೆ.
"NeuralHash ಅಲ್ಗಾರಿದಮ್ [...] ಸಹಿ ಮಾಡಿದ ಆಪರೇಟಿಂಗ್ ಸಿಸ್ಟಮ್ ಕೋಡ್‌ನ ಭಾಗವಾಗಿದೆ [ಮತ್ತು] ಭದ್ರತಾ ಸಂಶೋಧಕರು ಅದರ ನಡವಳಿಕೆಯು ವಿವರಣೆಗೆ ಅನುಗುಣವಾಗಿದೆ ಎಂದು ಪರಿಶೀಲಿಸಬಹುದು" ಎಂದು ಆಪಲ್ ಡಾಕ್ಯುಮೆಂಟ್ ಬರೆದಿದೆ.
ಕಂಪನಿಯು ಇನ್ನೂ ಎರಡು ಹಂತಗಳಿವೆ ಎಂದು ಹೇಳಿತು: ತನ್ನದೇ ಆದ ಸರ್ವರ್‌ನಲ್ಲಿ ದ್ವಿತೀಯ (ರಹಸ್ಯ) ಹೊಂದಾಣಿಕೆ ವ್ಯವಸ್ಥೆಯನ್ನು ಚಾಲನೆ ಮಾಡುವುದು ಮತ್ತು ಹಸ್ತಚಾಲಿತ ವಿಮರ್ಶೆ.
ಬಳಕೆದಾರರು 30-ಪಂದ್ಯಗಳ ಮಿತಿಯನ್ನು ದಾಟಿದ ನಂತರ, ಆಪಲ್‌ನ ಸರ್ವರ್‌ಗಳಲ್ಲಿ ಚಾಲನೆಯಲ್ಲಿರುವ ಎರಡನೇ ಸಾರ್ವಜನಿಕವಲ್ಲದ ಅಲ್ಗಾರಿದಮ್ ಫಲಿತಾಂಶಗಳನ್ನು ಪರಿಶೀಲಿಸುತ್ತದೆ ಎಂದು Apple ಹೇಳಿದೆ.
"CSAM ಅಲ್ಲದ ಚಿತ್ರಗಳ ಪ್ರತಿಕೂಲ ಹಸ್ತಕ್ಷೇಪದಿಂದಾಗಿ ದೋಷಯುಕ್ತ ನ್ಯೂರಲ್ ಹ್ಯಾಶ್ ಸಾಧನದಲ್ಲಿ ಎನ್‌ಕ್ರಿಪ್ಟ್ ಮಾಡಿದ CSAM ಡೇಟಾಬೇಸ್‌ಗೆ ಹೊಂದಿಕೆಯಾಗುವ ಸಾಧ್ಯತೆಯನ್ನು ತಿರಸ್ಕರಿಸಲು ಈ ಸ್ವತಂತ್ರ ಹ್ಯಾಶ್ ಅನ್ನು ಆಯ್ಕೆ ಮಾಡಲಾಗಿದೆ ಮತ್ತು ಹೊಂದಾಣಿಕೆಯ ಮಿತಿಯನ್ನು ಮೀರುತ್ತದೆ."
ಘರ್ಷಣೆಯ ದಾಳಿಯ ಪರಿಕಲ್ಪನೆಯ ಪುರಾವೆಯಾಗಿ ಪೋಸ್ಟ್ ಮಾಡಲಾದ ಎರಡು ಚಿತ್ರಗಳ ನಡುವೆ ಸುಲಭವಾಗಿ ವ್ಯತ್ಯಾಸವನ್ನು ಗುರುತಿಸಲು ರೋಬೋಫ್ಲೋನ ಬ್ರಾಡ್ ಡ್ವೈಯರ್ ಒಂದು ಮಾರ್ಗವನ್ನು ಕಂಡುಕೊಂಡರು.
ಈ ಚಿತ್ರಗಳು ಒಂದೇ ರೀತಿಯ ಆದರೆ ವಿಭಿನ್ನವಾದ ನ್ಯೂರಲ್ ಫೀಚರ್ ಎಕ್ಸ್‌ಟ್ರಾಕ್ಟರ್ OpenAI ನ CLIP ನಲ್ಲಿ ಹೇಗೆ ಕಾಣುತ್ತವೆ ಎಂದು ನನಗೆ ಕುತೂಹಲವಿದೆ.CLIP ನ್ಯೂರಲ್‌ಹ್ಯಾಶ್‌ನಂತೆಯೇ ಕಾರ್ಯನಿರ್ವಹಿಸುತ್ತದೆ;ಇದು ಚಿತ್ರವನ್ನು ತೆಗೆದುಕೊಳ್ಳುತ್ತದೆ ಮತ್ತು ಚಿತ್ರದ ವಿಷಯಕ್ಕೆ ಮ್ಯಾಪ್ ಮಾಡುವ ವೈಶಿಷ್ಟ್ಯದ ವೆಕ್ಟರ್‌ಗಳ ಗುಂಪನ್ನು ಉತ್ಪಾದಿಸಲು ನರಮಂಡಲವನ್ನು ಬಳಸುತ್ತದೆ.
ಆದರೆ OpenAI ನ ನೆಟ್ವರ್ಕ್ ವಿಭಿನ್ನವಾಗಿದೆ.ಇದು ಚಿತ್ರಗಳು ಮತ್ತು ಪಠ್ಯದ ನಡುವೆ ನಕ್ಷೆ ಮಾಡಬಹುದಾದ ಸಾಮಾನ್ಯ ಮಾದರಿಯಾಗಿದೆ.ಇದರರ್ಥ ನಾವು ಮಾನವ-ಅರ್ಥವಾಗುವ ಚಿತ್ರದ ಮಾಹಿತಿಯನ್ನು ಹೊರತೆಗೆಯಲು ಇದನ್ನು ಬಳಸಬಹುದು.
ನಾನು ಮೇಲಿನ ಎರಡು ಘರ್ಷಣೆಯ ಚಿತ್ರಗಳನ್ನು CLIP ಮೂಲಕ ಓಡಿಸಿದೆ, ಅದು ಕೂಡ ಮೋಸಗೊಂಡಿದೆಯೇ ಎಂದು ನೋಡಲು.ಚಿಕ್ಕ ಉತ್ತರ: ಇಲ್ಲ.ಇದರರ್ಥ ಆಪಲ್ ಪತ್ತೆಯಾದ CSAM ಚಿತ್ರಗಳು ನೈಜ ಅಥವಾ ನಕಲಿ ಎಂಬುದನ್ನು ನಿರ್ಧರಿಸಲು ಎರಡನೇ ವೈಶಿಷ್ಟ್ಯದ ಹೊರತೆಗೆಯುವ ನೆಟ್ವರ್ಕ್ ಅನ್ನು (CLIP ನಂತಹ) ಅನ್ವಯಿಸಲು ಸಾಧ್ಯವಾಗುತ್ತದೆ.ಒಂದೇ ಸಮಯದಲ್ಲಿ ಎರಡು ನೆಟ್‌ವರ್ಕ್‌ಗಳನ್ನು ಮೋಸಗೊಳಿಸುವ ಚಿತ್ರಗಳನ್ನು ರಚಿಸುವುದು ಹೆಚ್ಚು ಕಷ್ಟ.
ಅಂತಿಮವಾಗಿ, ಮೊದಲೇ ಹೇಳಿದಂತೆ, ಚಿತ್ರಗಳನ್ನು CSAM ಎಂದು ಖಚಿತಪಡಿಸಲು ಹಸ್ತಚಾಲಿತವಾಗಿ ಪರಿಶೀಲಿಸಲಾಗುತ್ತದೆ.
ಆಪಲ್ ಅನ್ನು ಕಿರಿಕಿರಿಗೊಳಿಸಲು ಬಯಸುವ ಯಾರಾದರೂ ಮಾನವ ವಿಮರ್ಶಕರಿಗೆ ತಪ್ಪು ಧನಾತ್ಮಕತೆಯನ್ನು ಒದಗಿಸಬಹುದು ಎಂಬುದು ನಿಜವಾದ ಅಪಾಯವಾಗಿದೆ ಎಂದು ಭದ್ರತಾ ಸಂಶೋಧಕರು ಹೇಳಿದ್ದಾರೆ.
"ಆಪಲ್ ವಾಸ್ತವವಾಗಿ ಈ ವ್ಯವಸ್ಥೆಯನ್ನು ವಿನ್ಯಾಸಗೊಳಿಸಿದೆ, ಆದ್ದರಿಂದ ಹ್ಯಾಶ್ ಕಾರ್ಯವನ್ನು ರಹಸ್ಯವಾಗಿಡಬೇಕಾಗಿಲ್ಲ, ಏಕೆಂದರೆ ನೀವು 'CSAM ಅಲ್ಲದ CSAM' ನೊಂದಿಗೆ ಮಾಡಬಹುದಾದ ಏಕೈಕ ವಿಷಯವೆಂದರೆ ಆಪಲ್‌ನ ಪ್ರತಿಕ್ರಿಯೆ ತಂಡವನ್ನು ಕೆಲವು ಜಂಕ್ ಚಿತ್ರಗಳೊಂದಿಗೆ ಅವರು ತೆಗೆದುಹಾಕಲು ಫಿಲ್ಟರ್‌ಗಳನ್ನು ಅಳವಡಿಸುವವರೆಗೆ ಕಿರಿಕಿರಿಗೊಳಿಸುವುದು. ವಿಶ್ಲೇಷಣೆ ಪೈಪ್‌ಲೈನ್‌ನಲ್ಲಿರುವ ಕಸವು ತಪ್ಪು ಧನಾತ್ಮಕವಾಗಿದೆ, ”ಎಂದು ಬರ್ಕ್ಲಿಯ ಕ್ಯಾಲಿಫೋರ್ನಿಯಾ ವಿಶ್ವವಿದ್ಯಾಲಯದ ಇಂಟರ್ನ್ಯಾಷನಲ್ ಕಂಪ್ಯೂಟರ್ ಸೈನ್ಸ್ ಸಂಸ್ಥೆಯ ಹಿರಿಯ ಸಂಶೋಧಕ ನಿಕೋಲಸ್ ವೀವರ್ ಆನ್‌ಲೈನ್ ಚಾಟ್‌ನಲ್ಲಿ ಮದರ್ಬೋರ್ಡ್ಗೆ ತಿಳಿಸಿದರು.
ಗೌಪ್ಯತೆ ಇಂದಿನ ಜಗತ್ತಿನಲ್ಲಿ ಹೆಚ್ಚುತ್ತಿರುವ ಕಾಳಜಿಯ ಸಮಸ್ಯೆಯಾಗಿದೆ.ನಮ್ಮ ಮಾರ್ಗಸೂಚಿಗಳಲ್ಲಿ ಗೌಪ್ಯತೆ, ಭದ್ರತೆ ಇತ್ಯಾದಿಗಳಿಗೆ ಸಂಬಂಧಿಸಿದ ಎಲ್ಲಾ ವರದಿಗಳನ್ನು ಅನುಸರಿಸಿ.
ಬೆನ್ ಲವ್‌ಜಾಯ್ ಅವರು 9to5Mac ಗಾಗಿ ಬ್ರಿಟಿಷ್ ತಾಂತ್ರಿಕ ಬರಹಗಾರ ಮತ್ತು EU ಸಂಪಾದಕರಾಗಿದ್ದಾರೆ.ಅವರು ತಮ್ಮ ಕಾಲಮ್‌ಗಳು ಮತ್ತು ಡೈರಿ ಲೇಖನಗಳಿಗೆ ಹೆಸರುವಾಸಿಯಾಗಿದ್ದಾರೆ, ಹೆಚ್ಚು ಸಮಗ್ರವಾದ ವಿಮರ್ಶೆಗಳನ್ನು ಪಡೆಯಲು ಕಾಲಾನಂತರದಲ್ಲಿ Apple ಉತ್ಪನ್ನಗಳೊಂದಿಗೆ ಅವರ ಅನುಭವವನ್ನು ಅನ್ವೇಷಿಸುತ್ತಾರೆ.ಅವರು ಕಾದಂಬರಿಗಳನ್ನು ಸಹ ಬರೆಯುತ್ತಾರೆ, ಎರಡು ತಾಂತ್ರಿಕ ಥ್ರಿಲ್ಲರ್‌ಗಳು, ಕೆಲವು ಸಣ್ಣ ವೈಜ್ಞಾನಿಕ ಕಾಲ್ಪನಿಕ ಚಲನಚಿತ್ರಗಳು ಮತ್ತು ರೋಮ್-ಕಾಮ್ ಇವೆ!
ಪೋಸ್ಟ್ ಸಮಯ: ಆಗಸ್ಟ್-20-2021