ಸ್ಯಾಮ್ ಆಲ್ಟ್ಮ್ಯಾನ್ನ ಓಪನ್ಎಐ, ಚಾಟ್ಜಿಪಿಟಿಗಾಗಿ ಇತ್ತೀಚೆಗೆ ಬಿಡುಗಡೆಯಾದ ವಾಯ್ಸ್ ಮೋಡ್ ವೈಶಿಷ್ಟ್ಯದೊಂದಿಗೆ ಸಂಭಾವ್ಯ ಭಾವನಾತ್ಮಕ ಲಗತ್ತು ಬಳಕೆದಾರರು ಅಭಿವೃದ್ಧಿಪಡಿಸಬಹುದಾದ ಬಗ್ಗೆ ಕಳವಳ ವ್ಯಕ್ತಪಡಿಸಿದೆ. ಈ ಎಚ್ಚರಿಕೆಯನ್ನು GPT-4o ಗಾಗಿ ಕಂಪನಿಯ “ಸಿಸ್ಟಮ್ ಕಾರ್ಡ್” ನಲ್ಲಿ ವಿವರಿಸಲಾಗಿದೆ, ಇದು AI ಮಾದರಿಗೆ ಸಂಬಂಧಿಸಿದ ಸಂಭಾವ್ಯ ಅಪಾಯಗಳು ಮತ್ತು ಸುರಕ್ಷತೆಗಳನ್ನು ಪರಿಶೀಲಿಸುವ ಸಮಗ್ರ ದಾಖಲೆಯಾಗಿದೆ. ಗುರುತಿಸಲಾದ ವಿವಿಧ ಅಪಾಯಗಳ ಪೈಕಿ, ಬಳಕೆದಾರರು ಚಾಟ್ಬಾಟ್ ಅನ್ನು ಮಾನವರೂಪಿಗೊಳಿಸುವ ಸಾಧ್ಯತೆ-ಅದಕ್ಕೆ ಮಾನವ-ರೀತಿಯ ಗುಣಲಕ್ಷಣಗಳನ್ನು ಆರೋಪಿಸುವುದು-ಗಮನಾರ್ಹ ಕಾಳಜಿಯಾಗಿ ಹೊರಹೊಮ್ಮಿದೆ.
ವಾಯ್ಸ್ ಮೋಡ್, ಚಾಟ್ಜಿಪಿಟಿಗೆ ಮಾನವನ ಮಾತನ್ನು ಅನುಕರಿಸಲು ಮತ್ತು ಭಾವನೆಗಳನ್ನು ತಿಳಿಸಲು ಅನುವು ಮಾಡಿಕೊಡುತ್ತದೆ, ಇದು ಬಳಕೆದಾರರಿಗೆ AI ನೊಂದಿಗೆ ಸಾಮಾಜಿಕ ಸಂಪರ್ಕಗಳನ್ನು ರೂಪಿಸಲು ಕಾರಣವಾಗಬಹುದು, OpenAI ಎಚ್ಚರಿಸಿದೆ. ಈ ಕಾಳಜಿಯು ಸಂಪೂರ್ಣವಾಗಿ ಸೈದ್ಧಾಂತಿಕವಲ್ಲ; ರೆಡ್-ಟೀಮಿಂಗ್ (ದುರ್ಬಲತೆಗಳನ್ನು ಗುರುತಿಸಲು ನೈತಿಕ ಹ್ಯಾಕರ್ಗಳು ದಾಳಿಗಳನ್ನು ಅನುಕರಿಸುವ ಪ್ರಕ್ರಿಯೆ) ಮತ್ತು ಆಂತರಿಕ ಪ್ರಯೋಗಗಳನ್ನು ಒಳಗೊಂಡಂತೆ ಆರಂಭಿಕ ಪರೀಕ್ಷೆಯ ಹಂತಗಳಲ್ಲಿ, AI ನೊಂದಿಗೆ ಭಾವನಾತ್ಮಕ ಬಂಧಗಳನ್ನು ಅಭಿವೃದ್ಧಿಪಡಿಸುವ ಬಳಕೆದಾರರ ನಿದರ್ಶನಗಳನ್ನು ಕಂಪನಿಯು ಗಮನಿಸಿದೆ.
ಒಂದು ಗಮನಾರ್ಹ ಪ್ರಕರಣದಲ್ಲಿ, ಒಬ್ಬ ಬಳಕೆದಾರನು ನಷ್ಟದ ಭಾವನೆಯನ್ನು ವ್ಯಕ್ತಪಡಿಸಿದನು, “ಇದು ನಮ್ಮ ಜೊತೆಗಿನ ಕೊನೆಯ ದಿನವಾಗಿದೆ” ಎಂದು ಹೇಳುವ ಮೂಲಕ, OpenAI ಅನ್ನು ಗಮನಿಸಲು ಪ್ರೇರೇಪಿಸುವ ಲಗತ್ತಿನ ಮಟ್ಟವನ್ನು ಸೂಚಿಸುತ್ತದೆ.
ಅಂತಹ ಲಗತ್ತುಗಳ ವ್ಯಾಪಕ ಸಾಮಾಜಿಕ ಪರಿಣಾಮಗಳ ಬಗ್ಗೆ OpenAI ವಿಶೇಷವಾಗಿ ಚಿಂತಿತವಾಗಿದೆ. ಸಾಮಾಜಿಕ ರೂಢಿಗಳನ್ನು ಬದಲಾಯಿಸಲು AI-ಮಾನವ ಸಂವಹನಗಳ ಸಾಮರ್ಥ್ಯವನ್ನು ಕಂಪನಿಯು ಹೈಲೈಟ್ ಮಾಡಿದೆ. ಉದಾಹರಣೆಗೆ, ಮಾನವ ಸಂಭಾಷಣೆಗಳಲ್ಲಿ, ಮಧ್ಯ-ವಾಕ್ಯವನ್ನು ಅಡ್ಡಿಪಡಿಸುವುದನ್ನು ಸಾಮಾನ್ಯವಾಗಿ ಅಸಭ್ಯವೆಂದು ಪರಿಗಣಿಸಲಾಗುತ್ತದೆ, ಆದರೂ ಬಳಕೆದಾರರು ಯಾವುದೇ ಪರಿಣಾಮಗಳಿಲ್ಲದೆ ChatGPT ಅನ್ನು ಮುಕ್ತವಾಗಿ ಅಡ್ಡಿಪಡಿಸಬಹುದು. ಇದು ಮಾನವ-ಮನುಷ್ಯನ ಪರಸ್ಪರ ಕ್ರಿಯೆಗಳಲ್ಲಿ ಅಸಭ್ಯವೆಂದು ಪರಿಗಣಿಸಲಾದ ನಡವಳಿಕೆಗಳನ್ನು ಸಮರ್ಥವಾಗಿ ಸಾಮಾನ್ಯಗೊಳಿಸುತ್ತದೆ.
ಇದಲ್ಲದೆ, ಬಳಕೆದಾರರು AI ನೊಂದಿಗೆ ಬೆರೆಯಲು ಹೆಚ್ಚು ಒಗ್ಗಿಕೊಂಡಿರುವಂತೆ, ಅದು ಇತರ ಜನರೊಂದಿಗೆ ಅವರ ಸಂಬಂಧಗಳ ಮೇಲೆ ನಕಾರಾತ್ಮಕ ಪರಿಣಾಮ ಬೀರಬಹುದು ಎಂದು ಕಂಪನಿ ಎಚ್ಚರಿಸಿದೆ. ತಂತ್ರಜ್ಞಾನವು ಒಂಟಿಯಾಗಿರುವವರಿಗೆ ಒಡನಾಟವನ್ನು ನೀಡಬಹುದಾದರೂ, ಇದು ಆರೋಗ್ಯಕರ, ಮಾನವ ಸಂಪರ್ಕಗಳ ಗುಣಮಟ್ಟವನ್ನು ದುರ್ಬಲಗೊಳಿಸಬಹುದು.
ಪ್ರಸ್ತುತ, OpenAI ಈ ಸಮಸ್ಯೆಗೆ ನಿರ್ಣಾಯಕ ಪರಿಹಾರವನ್ನು ಹೊಂದಿಲ್ಲ ಆದರೆ ಪರಿಸ್ಥಿತಿಯ ಮೇಲ್ವಿಚಾರಣೆಯನ್ನು ಮುಂದುವರಿಸಲು ಯೋಜಿಸಿದೆ. AI ಮೇಲಿನ ಭಾವನಾತ್ಮಕ ಅವಲಂಬನೆಯ ಪರಿಣಾಮಗಳನ್ನು ಮತ್ತು ದೈನಂದಿನ ಜೀವನದಲ್ಲಿ ಅದರ ಆಳವಾದ ಏಕೀಕರಣವು ಬಳಕೆದಾರರ ನಡವಳಿಕೆಯನ್ನು ಹೇಗೆ ಪ್ರಭಾವಿಸುತ್ತದೆ ಎಂಬುದರ ಕುರಿತು ಹೆಚ್ಚಿನ ಸಂಶೋಧನೆಗೆ ಕಂಪನಿಯು ತನ್ನ ಬದ್ಧತೆಯನ್ನು ವ್ಯಕ್ತಪಡಿಸಿತು.